Künstliche Intelligenz: Mit Normen und Standards zielgerichtet in die Zukunft

Künstliche Intelligenz ist mit der KI-Strategie der Bundesregierung und der Einsetzung der Enquete-Kommission „Künstliche Intelligenz“ zentraler Gegenstand der deutschen Politik geworden. KI gilt über fast alle Branchen hinweg als einer der Schlüsselfaktoren für die künftige Wettbewerbsfähigkeit Deutschlands und Europas.

Eine ähnlich hohe, aber bereits über hundert Jahre zurückreichende Bedeutung für den Standort Deutschland haben Normung und Standardisierung. Ohne Normen sind weder eine globale arbeitsteilige Wirtschaft noch eine sichere Nutzung von Technik noch die Durchsetzung von Regulierung in verschiedensten Lebensbereichen denkbar.

Es gibt keine allgemein akzeptierte Definition von „Künstlicher Intelligenz“. Das Spektrum von Technologien und Perspektiven zu KI ist hierfür zu breit.

Die DKE betrachtet unter der Überschrift „Künstliche Intelligenz“ aber vor allem Technologien, die in extrem großen, uneinheitlichen Datenmengen Muster identifizieren können, zum Beispiel in der Bild- und Spracherkennung, und die innerhalb vorgegebener Spielregeln ihre Leistung anhand von Daten aus Training und laufendem Betrieb selbst optimieren können wie beispielsweise in der Robotik oder beim autonomen Fahren. KI-Systeme sind weiterhin deterministisch, aber intern so komplex, dass ihr Verhalten durch den Menschen nur noch sehr eingeschränkt nachvollzogen werden kann.

Die Funktionsweise hat sich seit der Prägung des Begriffs „Künstliche Intelligenz“ in den 1950er Jahren stetig weiterentwickelt.

Heute dominieren KI-Systeme, die als neuronale Netze eine gewisse Ähnlichkeit mit der Funktionsweise des menschlichen Gehirns aufweisen. Zahlreiche Knoten (Neuronen) sind untereinander verschaltet, wobei die Gewichte der einzelnen Verbindungen durch Training einer bestimmten Aufgabe nach und nach festgelegt werden. Erst durch diesen Lernprozess wird ein neuronales Netz funktionsfähig und kann als Algorithmus zur Lösung von Aufgaben eingesetzt werden. Aber wie funktioniert der Lernprozess eigentlich genau? Das Stichwort ist hier: machinelles Lernen.

Die heutige Situation von KI erinnert an die Situation der Elektrizität Ende des 19. Jahrhunderts: viele innovative, aber nicht miteinander kompatible Produkte, Unfälle durch unzureichende Sicherheitsstandards sowie eine Kombination von Hype und Skepsis in Wissenschaft, Wirtschaft und Gesellschaft. Damals wurde das enorme positive Potenzial der Elektrizität unter anderem dadurch gehoben, dass Übertragungsnetze, Steckersysteme, Sicherheitsanforderungen, Schaltanlagen etc. genormt wurden. In ähnlicher Weise kann heute KI durch Normung den breiten Durchbruch schaffen.

Hier beispielhaft einige Aspekte von KI, für die Normung hilfreich wäre und zum Teil auch schon vorbereitet wird:

• Trainingsverfahren

Die momentan gängigsten KI-Systeme beruhen auf Deep Neural Networks. Sie werden mit bereits vorhandenen Daten trainiert, um zu lernen, aus künftigen Daten die richtigen Schlüsse zu ziehen. Weder Trainingsdatensätze noch Trainingsverfahren sind bisher genormt, so dass beispielsweise ein Zusammenführen von KI-Systemen und Trainingsdaten über Unternehmensgrenzen hinweg kaum möglich ist.

• Beschreibung von selbstlernenden Systemen

Kennzeichen vieler KI-Systeme ist, dass sie durch immer neue Inputdaten selbst dazulernen und ihr Verhalten von Tag zu Tag verändern können. Wie können aber mehrere solcher Systeme zuverlässig zu einem größeren Ganzen (z. B. einer Produktionsanlage oder einem Operationsroboter) kombiniert werden, wenn ihre Eigenschaften nicht stabil sind? Eine praxistaugliche Beschreibung selbstlernender Systeme und ihrer Eigenschaften (z. B. Sicherheit, Zuverlässigkeit etc.) ist unter anderem aus diesem Grund eine wichtige Aufgabe für die Normung.

• KI-Methoden und wissenschaftlich-technische Fachsprache

Um in Expertenkreisen präzise über ein so komplexes und interdisziplinäres Feld wie KI diskutieren zu können, muss ein gemeinsames Verständnis über die wichtigsten KI-Methoden und Fachbegriffe sichergestellt sein. Daher erarbeitet ein internationales Normungsgremium unter Beteiligung von VDE DKE bereits entsprechende Definitionen.

Viele KI-gestützte Systeme, beispielsweise für autonomes Fahren, das Stellen medizinischer Diagnosen, die Vergabe von Krediten oder die Prognose der Rehabilitation von Straftätern, treffen ethisch schwierige Entscheidungen. Eine Maschine an sich hat keinen Sinn für Ethik, aber ihr Verhalten muss sich an ethischen Maßstäben messen lassen. Zu bedenken sind beispielsweise

• das Verhalten in Krisensituationen wie einem unabwendbaren Unfall

Hier wurde und wird vom Menschen nicht erwartet, in Sekundenbruchteilen eine ethisch abgewogene und im Nachhinein hinterfragbare Entscheidung zu treffen. Vielmehr „darf“ der Mensch im Reflex handeln. Für ein KI-System sind die Grundlagen für solche Entscheidungen dagegen bei der Programmierung von Algorithmen und/oder der Auswahl von Trainingsdaten vorher festgelegt worden und damit kontrollierbar

• die Fortschreibung menschlicher Unzulänglichkeiten

Wird eine KI mit früheren, von Menschen generierten Daten trainiert, übernimmt sie auch deren Unzulänglichkeiten, beispielsweise eine (auch unbeabsichtigte) Ungleichbehandlung unterschiedlicher Bevölkerungsgruppen. Damit wird ethisch fragwürdiges Verhalten gewissermaßen automatisiert.

• die Arbeitsteilung zwischen Mensch und Maschine

Behält der Mensch in einer KI-durchdrungenen Umgebung noch das Heft in der Hand, d. h. ein gewisses Maß an Souveränität, oder wird er zu einem bloßen Rädchen im Getriebe technischer Systeme? Dies spielt insbesondere in der Arbeitswelt eine Rolle.

• ein möglicher Verzicht auf KI in gewissen ethisch heiklen Einsatzgebieten

Aktuell wird jedoch noch kontrovers diskutiert, inwieweit eine solche Herangehenweise und Umsetzung praktikabel und sinnvoll wäre.

Wer KI-Systeme entwickelt und trainiert und damit deren Verhaltensmuster festlegt, kommt nicht darum herum, sich mit solchen Fragestellungen auseinanderzusetzen. Es kann jedoch nicht die Aufgabe von Entwicklern oder deren Arbeitgebern sein, die Antworten zu geben.

Vielmehr müssen

1. Antworten in einem breiten Konsens von Experten und anderen relevanten Akteuren – auch in der Politik – gefunden werden, und
2. diese Antworten so klar und konkret formuliert werden, dass Entwickler von KI-Systemen sie als Leitlinien benutzen können.

Diese beiden Schritte – das Herstellen eines Konsens und dessen technisch anwendbare Formulierung – bilden jedoch genau die seit vielen Jahrzehnten geübte Praxis in der Normung. Damit bietet sich Ethik von KI-Systemen als Gegenstand der Normung an. Ob dabei ethische Grundsätze selbst genormt werden sollten oder eher die Prozesse und Zuständigkeiten, die zur Festlegung solcher Grundsätze führen, wird derzeit noch untersucht, unter anderem durch VDE DKE im Rahmen eines Auftrags des Bundesministeriums für Wirtschaft und Energie.

Man könnte daran denken, explizite ethische Regeln in eine Norm zu fassen. Fiktive Beispiele: „Kinder sind wichtiger als Rentner“ oder auch „100 Schwerverletzte sind besser als 1 Toter“. Für solche Regeln lässt sich aber schon innerhalb Deutschlands kein Konsens finden, geschweige denn auf internationaler Ebene.

Und das andere Extrem: Man normt gar nicht Ethik selbst, sondern lediglich die Prozesse und Strukturen, in denen ethische Entscheidungen getroffen werden sollen. Ein solcher Ansatz funktioniert prinzipiell, ist aber für Ethik zu unspezifisch und verschiebt nur die heiklen und gesellschaftlich relevanten Fragen in schwer überschaubare Gremien.

Eine Idee liefern stattdessen die erfolgreichen Kennzeichnung von Produkten: Die bunten Skalen kennt jeder von Haushaltsgeräten – sie kennzeichnen Energieeffizienz, Waschleistung, Kühlwirkung etc.

Skalen für die Eigenschaften von KI-Systemen, wie Schutz von Privatsphäre, Diskriminierungsfreiheit oder Transparenz, können auf ähnliche Weise genormt werden. Damit schaffen wir einen transparenten Wettbewerb, es können regionale Mindeststandards festsetzen (z. B. „in Europa sind nur KI-Systeme mit Diskriminierungsfreiheit besser als Klasse C zugelassen“), und wir geben Verbrauchern Entscheidungsfreiheit.

Es deutet sich an, dass so ein Ansatz auch global konsensfähig ist und gleichzeitig KI-Ethik zum deutschen bzw. europäischen Wettbewerbsvorteil macht.

Künstliche Intelligenz und Harmonized Standards

Für die sogenannten Hochrisiko-KI-Anwendungen spielen Normen und Standards eine wichtige Rolle, denn sie schaffen Transparenz, Sicherheit und damit Vertrauen und innovationsfreundliche Rahmenbedingungen.

Nach dem Erfolgsprinzip des europäischen Binnenmarktes, dem New Legislativ Framework, werden lediglich grundlegende Anforderungen und Schutzziele festgelegt, auf deren Basis KI-Anwendungen in allen EU-Mitgliedstaaten in Verkehr gebracht werden können. Dagegen werden die KI Hochrisiko-Anwendungen künftig über den Artifical Intelligence Act der EU reguliert. Dabei beauftragt die EU die europäischen Normungsorganisationen, die grundlegenden Anforderungen technisch konkreter auszuarbeiten. Am Ende des Prozesses entstehen harmonisierte europäische Normen. Dieses sorgen im Zusammenspiel mit dem Gesetzgeber für Transparenz und Sicherheit.

Ohne jede Frage, Künstliche Intelligenz ist eines der großen Zukunftsthemen. Ob im Industriesektor, beim autonomen Fahren oder im Gesundheitsbereich: KI findet bereits statt und es ist davon auszugehen, dass die Anwendungsmöglichkeiten und deren Umsetzungen noch enorm steigen werden. Aus diesem Grund wurde im Juni 2018 die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ beschlossen. Die Enquete-Kommission setzt sich aus Mitgliedern des Deutschen Bundestags sowie externen Experten zusammen und befasst sich mit den Auswirkungen, die aus dem zunehmenden Einsatz von KI resultieren.

Transparenz-Anforde­run­gen und recht­liche Fra­gen KI-ba­sierter Systeme

Michael Teigeler, DKE Geschäftsführer, und Dr. Sebastian Hallensleben, Portfoliomanager Digitalisierung und KI im VDE, hoben in einer öffentlichen Sitzung der Enquete-Kommission die Bedeutung und Vorteile der Normung und Standardsetzung im KI-Bereich hervor.

Hinweis: Der Vortrag von VDE DKE beginnt ab Minute 41:30

Quelle: youtube.com / Deutscher Bundestag

Mit unserem DKE Newsletter sind Sie immer top informiert! Monatlich ...

• fassen wir die wichtigsten Entwicklungen in der Normung kurz zusammen
• berichten wir über aktuelle Arbeitsergebnisse, Publikationen und Entwürfe
• informieren wir Sie bereits frühzeitig über zukünftige Veranstaltungen

Auf internationaler Ebene spielt im Kontext der Normung von Künstlicher Intelligenz das Market Strategy Board von IEC eine bedeutende Rolle. Es wurde gegründet, um Technologietrends und Marktanforderungen in den Arbeitsgebieten der IEC zu ermitteln. In seinem Ausblick für 2019 hat das Market Strategy Board noch einmal auf die hohe Relevanz von Künstlicher Intelligenz als eines der wichtigsten Zukunftsthemen hingewiesen. Im Interview sagte Peter Lanctot, Sekretär des Gremiums, die Mitglieder des Market Strategy Boards seien sich einig, dass Künstliche Intelligenz die nächste Innovationsphase darstellt und zu einer langfristigen Umwälzung von Markt und Technologie führen wird.

Um das Thema Künstliche Intelligenz auf internationaler Ebene voranzutreiben, wurde die SEG 10 – Bewertungsgruppe Normung für autonome und KI-basierte Anwendungen – gegründet. Den Vorsitz teilen sich Dr. Sebastian Hallensleben, Portfoliomanager Digitalisierung und KI im VDE e. V., aus Deutschland und Tangli Liu, Chief Strategic Planning officer & Director of Smart Cities Department beim China Electronics Standardization Institute, aus China.

Die SEG 10 setzt sich aus drei Working Groups mit jeweils unterschiedlichen Zielsetzungen zusammen:

• AAA Societal and Ethical Foundations

Entwicklung eines Frameworks/Prozesses/Ansatzes für die Anwendung von Ethik in verschiedenen Kontexten/Domänen für die Bereiche der Normungsarbeit

• AAA Specific Ethical Requirements

Identifizieren und priorisieren spezifischer ethischer Anforderungen der technischen IEC-Aktivitäten im Zusammenhang mit AAA

• Outreach

Koordination der Kommunikations- und Kooperationsaktivitäten innerhalb der IEC sowie in Bezug auf die externen Zielgruppen

* AAA steht für Autonomous and Artificial Intelligence Applications

OCEANIS ist ein globales Forum für Diskussion und Zusammenarbeit zwischen Organisationen, die an der Entwicklung und Anwendung von Normen und Standards zur Förderung der Entwicklung autonomer und intelligenter Systeme interessiert sind.