nahaufnahme-schach-roboter-autoNahaufnahme eines schachspielenden Roboters, selektiver Fokusmation-205146230
LIGHTFIELD STUDIOS / stock.adobe.com
02.10.2020 Publikation

Whitepaper Ethik und Künstliche Intelligenz

Künstliche Intelligenz wird unser Leben zunehmend weiter verändern, dennoch stehen wir erst ganz am Anfang dieser Entwicklungen. Ein wesentlicher Aspekt betrifft die Frage des ethischen Verhaltens einer Maschine. Um dieser Frage nachzugehen, haben DIN und DKE gemeinsam mit zahlreichen Expertinnen und Experten ein Whitepaper erarbeitet.

Technische Leitplanken durch Normung

Wie können Menschen der Künstlichen Intelligenz (KI) vertrauen? Wer stellt sicher, dass eine KI dem Menschen nicht schadet sondern ihm nutzt? Die Normung bietet Lösungen an, mit denen der Einsatz von KI menschenzentriert und innerhalb von ‚Leitplanken‘ stattfinden kann.

Kontakt

Johannes Koch

Zu diesem Ergebnis kommt das aktuelle Whitepaper „Ethik und Künstliche Intelligenz – Was können technische Normen und Standards leisten?“, das von Experten von DIN und DKE erarbeitet und vom Bundesministerium für Wirtschaft und Energie (BMWi) geförderte wurde. Das Dokument betrachtet die Zusammenhänge zwischen KI und Ethik und analysiert das Potential von technischen Normen und Standards. Ziel ist es, den aktuellen Stand der Normung und Standardisierung im interdisziplinären Themenfeld KI und Ethik darzustellen, sowie mögliche zukünftige Handlungsfelder der Normung und Standardisierung aufzuzeigen.

Die Prinzipien der Normung und Standardisierung fördern einen vertrauenswürdigen Einsatz von KI, indem sie vereinheitlichte technische Anforderungen, Prozesse und Terminologien erzeugen. Dies schafft für Verbraucher, Anwender und Hersteller Sicherheit bei der Konzeption und dem Einsatz von KI. Über anwendungsbezogene oder domänenübergreifende Lösungen machen Normung und Standardisierung KI sicher, transparent und nachvollziehbar. Damit definiert die Normung nicht unmittelbar Ethik, sondern vielmehr technische Anforderungen die auch ethischen Vorstellungen entsprechen können.

Inhalte

Whitepaper Ethik und KI

Whitepaper Ethik und Künstliche Intelligenz

| DKE, DIN

Im Whitepaper sind erhebliche Bedarfe festgestellt worden, die durch Normen und Standards adressiert werden können. Die betrifft insbesondere die Bereiche

  • Erklärbarkeit,
  • Rückverfolgbarkeit,
  • Überprüfbarkeit,
  • Sicherheit und
  • Datenschutz.

Im Bereich Erklärbarkeit zeigt das Whitepaper auf, dass Normung und Standardisierung einige technische Ansätze bieten, um KI-Systeme erklärbar zu machen. Gleichzeitig werden Grenzen aufgezeigt, die eine Forderung nach allgemeiner Erklärbarkeit relativiert (z. B. prospektive Erklärbarkeit von KI-Entscheidungen).

Das Whitepaper dokumentiert, dass Normung und Standardisierung technische Ansätze bieten, um die Rückverfolgbarkeit von KI-Systemen zu gewährleisten. So sollten für jedes System Informationen des System Engineering, Systemdefinition und Betriebskonzepts dargelegt werden. Dies könnte auch Bestandteil eines späteren Zertifizierungsprozesses sein.

Das Whitepaper verdeutlicht, dass eine Überprüfbarkeit von KI-Systemen nicht pauschal möglich ist. Je nach Einsatzgebiet und Kombinierung des KI-Systems werden unterschiedliche Anforderungen an die Überprüfbarkeit einer Technologie gestellt. Diese Anforderungen müssen festgelegt werden. Eine Möglichkeit dies umzusetzen ist eine Klassifizierung anhand einer Norm oder eines Standards.

Entsprechend dem Whitepaper können Sicherheitsanforderungen – safety und security – in der Informationstechnik, und somit auch im KI-Bereich, durch Normen und Standards adressiert werden. Es existieren bereits eine Reihe etablierter (v. a. internationaler) Normen, die für einen sicheren KI-Einsatz angewendet werden können.

Beim Datenschutz verweist das Whitepaper zunächst auf bestehende Gesetze und die Verantwortung des Gesetzgebers. Gleichzeitig wird aufgezeigt, dass Normen und Standards gesetzliche Vorgaben unterstützen und präzisieren können. Das existierende Normenwerk bietet hierbei bereits technische Vorgaben im Bereich der Informationstechnologie, die auch für den Einsatz von KI gültig sind.

Empfehlenswerte Infografik aus dem Whitepaper

Künstliche Intelligenz: Mit Normen und Standards zielgerichtet in die Zukunft

Cyborg Han Gehirn Kuenstliche Intelligenz
Production Perig - stock.adobe.com

KI gilt als das vielleicht größte Zukunftsthema und kommt bereits in den unterschiedlichsten Anwendungsfeldern zum Einsatz. Eine zentrale Fragestellung ist dabei immer wieder die, wie Ethik und Technik miteinander vereinbart werden und wie Normen & Standards hierbei unterstützen können.

Mehr Informationen zum Nutzen von Normen und Standards im Bereich KI finden Sie in unserer

DKE Fachinfo zu Künstlicher Intelligenz

Interessiert an weiteren Inhalten zu Core Safety?

Fokusbild Core Safety & Information Technologies

Core Safety & Information Technologies umschließt alle Aspekte der Sicherheit: grundlegende  Sicherheitsanforderungen, funktionale Sicherheit, Informationssicherheit sowie deren Wechselwirkungen. Außerdem befasst sich Core Safety mit wichtigen Querschnittsthemen und definiert grundlegende Anforderungen die allgemein einzuhalten sind – zum Beispiel für Elektromagnetische Verträglichkeit, Umwelt- und Ressourceneffizienz, Schadstoffe, Größen, Einheiten und Kennzeichnungen. Weitere Inhalte zu diesem Fachgebiet finden Sie im

DKE Arbeitsfeld Core Safety & Information Technologies

Normungsroadmaps und ihr Umfeld