Normung bietet das ideale Umfeld, um KI sicher, nachvollziehbar, robust und erklärbar zu machen

Koch: Herr Prof. Wegener, die Normungsroadmap Künstliche Intelligenz wurde beim Digital-Gipfel veröffentlicht – mit etwa 200 Seiten ein sehr beachtliches Dokument. Was ist das Ziel dieser Normungsroadmap und wer hat sie verfasst?

Prof. Wegener: In der Tat ist die Normungsroadmap Künstliche Intelligenz ein sehr umfangreiches Dokument geworden. Das zeigt aber auch die große Relevanz des Themas und das große Potential, technische Anforderungen an KI-Systeme und -Applikationen durch die Normung zu definieren.

Ziel der Normungsroadmap ist es, frühzeitig einen Handlungsrahmen zu beschreiben, um die deutsche Wirtschaft und Wissenschaft zu stärken und innovationsfreundliche Rahmenbedingungen für den KI-Einsatz zu schaffen. Dabei ist wichtig zu verstehen, in welchem Umfeld wir uns momentan bewegen, welche Ideen und technischen Regeln es bereits gibt und welche noch benötigt werden. Dieser Erarbeitungsprozess ist nicht trivial – Künstliche Intelligenz wird in den unterschiedlichsten Bereichen eingesetzt und die Applikationen entwickeln sich sehr schnell weiter.

Hier haben wir einen ersten Fokus auf IT-Sicherheit, industrielle Automation, Mobilität und Logistik, Qualitätsanforderungen sowie Gesundheitsanwendungen gelegt. Mit breiter Beteiligung von über 300 Experten aus den verschiedenen Branchen sowie aus Wissenschaft,Politik und Zivilgesellschaft haben wir im vergangenen Jahr ein beeindruckendes Dokument erarbeitet, das der Normung, und somit auch der DKE, einen klaren Auftrag erteilt.

Die Deutsche Normungsroadmap Künstliche Intelligenz

verfolgt das Ziel, Handlungsempfehlungen rund um KI für die Normung zu geben.

Künstliche Intelligenz gilt weltweit und in zahlreichen Branchen als eine der Schlüsseltechnologien für künftige Wettbewerbsfähigkeit. Umso wichtiger sind die Empfehlungen der Normungsroadmap, die die deutsche Wirtschaft und Wissenschaft im internationalen KI-Wettbewerb stärken, innovationsfreundliche Bedingungen schaffen und Vertrauen in die Technologie aufbauen sollen.

Koch: Das klingt nach einem aufwändigen Verfahren, das alle möglichen Stakeholder und Interessengruppen einbindet. Sie sprechen von einem Auftrag – welchen Auftrag erteilt die KI-Normungsroadmap denn?

Prof. Wegener: Die KI-Normungsroadmap macht deutlich, dass der Normung eine wesentliche Rolle zufällt. Durch die etablierten Prozesse und die festgelegten und garantierten Beteiligungsmöglichkeiten aller interessierten Fachkreise bietet die Normung das ideale Umfeld, um KI-Systeme und -Applikationen sicher, nachvollziehbar, robust und erklärbar zu machen. Das steigert auch das Vertrauen in Künstliche Intelligenz – vor allem in Deutschland und im Vergleich zu anderen Ländern sind wir diesbezüglich besonders aufmerksam.

Wir können durch nationale und europäische Normen eine ‚KI made in Germany‘, die einem menschenzentrierten Ansatz folgt, zum Erfolgsmodell machen und einen Gegenpunkt zu anderen globalen Wettbewerbern setzen. Die in Normen und Standards festgelegten Anforderungen können in diesem Prozess zusätzlich eine entlastende Wirkung auf die Gesetzgebung entfalten und damit zu einer effizienten Gestaltung von Rahmenbedingungen beitragen.

Koch: Sie sprechen davon, was getan werden muss. Aber was hat denn die Normung im KI-Bereich bereits getan? Und was insbesondere die DKE?

Prof. Wegener: Die Normungsroadmap Künstliche Intelligenz zeigt vor allem die zukünftigen Normungsbedarfe auf und soll der Normung eine fundierte Orientierung bieten. Dabei soll aber nicht unbeachtet bleiben, dass die Normung KI nicht erst gestern entdeckt hat, sondern bereits in den letzten Jahren eine Vielzahl an Normungsprojekten ins Leben gerufen hat.

Auf internationaler Ebene beschäftigt sich ein gemeinsames Gremium von ISO und IEC, ISO/IEC JTC 1/SC 42, mit technischen Fragestellungen rund um Qualität, Vertrauenswürdigkeit, Datengrundlagen und Anwendungsfeldern von KI. Auch europäisch ist mit der AI Focus Group bei CEN und CENELEC ein Gremium aktiv, das einen europäischen Normungsansatz entsprechend der europäischen KI-Strategie entwickelt. Die KI-Normungsroadmap ist aber erst der Anfang. Es wurden viele Normungsansätze in den verschiedenen Domänen identifiziert, die wir nun in DIN und DKE umsetzen werden. Im Januar und Februar befassen wir uns außerdem im Rahmen von Fach-Workshops mit den anayliserten Normungsfeldern und laden alle interessierten Fachkreise zur Mitarbeit ein.

Letztendlich werden wir in den Normungsgremien bei DIN und DKE an neuen technischen Regeln arbeiten, die den Einsatz von KI-Technologien fördern und Vertrauen in diese Technologie schaffen. Idealerweise werden wir über die enge Vernetzung in die europäische und internationale Normung bei CEN/CENELEC/ETSI und ISO/IEC in den nächsten Jahren nationale Normen in europäische und/oder internationale Normen überführen und somit den Einfluss der deutschen Industrie in diesem Innovationsfeld sichern.

Künstliche Intelligenz: Mit Normen und Standards zielgerichtet in die Zukunft

KI gilt als Game Changer und kommt bereits in den unterschiedlichsten Anwendungsfeldern zum Einsatz. Eine zentrale Fragestellung ist dabei immer wieder die, wie Ethik und Technik miteinander vereinbart werden und wie Normen & Standards hierbei unterstützen können.

Koch: Was sind die nächsten Schritte?

Prof. Wegener: In der KI-Steuerungsgruppe wurden die nächsten Schritte der Umsetzung besprochen, zu denen auch konkrete Leuchtturmprojekte, sogenannte „KI-Reallabore“, gehören. Ein schönes Beispiel hierfür ist die Projektskizze des autonomen Regionalzugs, bei dem Künstliche Intelligenz zur Erhöhung des Autonomiegrades verwendet werden soll.

Für die Konformitätsbewertung gibt es derzeit keine etablierten und hinreichenden Methoden. Genau diese sollen aber in einem interdisziplinären Team aus Industrie, Gesetzgeber, Prüfanstalten und der Akademia an diesem konkreten Use Case in einem dreijährigen Projekt entwickelt werden. Hierbei soll insbesondere der Zusammenhang von Produktsicherheit und IT-Sicherheit bei Produkten mit eingebauter KI betrachtet werden. Gleichzeitig sollen dabei auch in einer agilen Arbeitsweise zwischen den Projektpartnern die Methoden der Konformitätsbewertung (u.a. Prüfmethoden) entwickelt werden. Weiterhin soll der neu angedachte Weg der sogenannten „NLF-CSA-Brücke“ bei der EU-Cybersecurity-Regulierung pilotartig angewendet werden.

Darüber hinaus können die bei DIN und DKE schon im Entstehen befindlichen Ansätze, wie beispielsweise die neue VDE Anwendungsregel VDE AR 2842-61 getestet werden, die einen einheitlichen, strukturierten Ansatz über den gesamten Produktlebenszyklus ermöglicht.

Koch: Vielen Dank für das Gespräch.