Artificial Intelligence Konzept
metamorworks / stock.adobe.com
03.12.2019 Kurzinformation 668 0

Referenzmodell für eine vertrauenswürdige KI: Erarbeitung einer neuen VDE-Anwendungsregel

Künstliche Intelligenz wird in der Gesellschaft kontrovers diskutiert. Die Vorteile dieser neuen Technologie stehen der Angst gegenüber, die Kontrolle über Systeme und Entscheidungen an Maschinen ohne Bewusstsein abzugeben. Umso wichtiger ist es also, dass frühzeitig Regeln geschaffen werden. Einen großen Schritt gehen die Normungsexperten von VDE|DKE – sie erarbeiten eine VDE-Anwendungsregel, die wesentliche Aspekte im Lebenszyklus von KI-Systemen aufgreift.

Künstliche Intelligenz (KI) verfügt über das große Potenzial, die Gesellschaft, Wirtschaft und das Zusammenleben der Menschen nachhaltig zu verändern. Sie kann helfen, Emissionen zu verringern, Krankheiten zu entdecken, Menschen oder Güter zu transportieren oder Prozesse effizienter zu gestalten. Gleichzeitig stellt KI die Menschheit vor große Herausforderungen:

  • Was darf ein System eigentlich?
  • Wer trifft zukünftig wichtige Entscheidungen?
  • Welchen „Leitplanken“ soll der Einsatz von KI folgen?

Kontakt

Johannes Koch
Zuständiges Gremium
Entwicklungsschritte im Lebenszyklus von KI-Systemen

Entwicklungsschritte im Lebenszyklus von KI-Systemen

| VDE|DKE

Die Lösung dieser Fragen erfordert eine technische Umsetzung bei der Konzeption von KI-Systemen und -Algorithmen. Es müssen technische Regeln implementiert werden, die definieren, wie KI-Komponenten in Produkte integriert werden können und den vorgelagerten Entwurfsprozess beschreiben.

Die Sicherheit von KI-Systemen und -Lösungen muss zu jeder Zeit gewährleistet sein, sobald diese im Markt zur Anwendung kommen. Die Besonderheit von KI-Systemen ist deren Komplexität: Funktionen können nicht einfach (durch den Menschen) geprüft werden. Das System muss die Sicherheit selbst gewährleisten und beispielsweise Anforderungen der funktionalen Sicherheit inhärent erfüllen.

Die VDE-Anwendungsregel „Spezifikation und Entwurf autonomer/kognitiver Systeme“ wird derzeit von den Normungsexperten der DKE erarbeitet. Es werden sowohl Begriffe und Konzepte für den Umgang mit KI-Systemen definiert als auch System- und Applikationsarchitekturen entworfen.

Die VDE-Anwendungsregel wird auch Vorgaben zu Verifikation und Qualifikation solcher Systeme geben und somit den gesamten Lebenszyklus abbilden.

Einen besonderen Schwerpunkt legt die VDE-Anwendungsregel auf die Entwurfsphase (development): Die Abgrenzung im Vergleich zu den klassischen Grenzen einer Maschine wird weiter gefasst, da die Interaktion mit dem Menschen und die Interaktion mit der Umgebung mit spezifiziert werden muss.

Insbesondere für KI-Systeme sind Vertrauenswürdigkeitsanforderungen (trustworthiness), wie physische Sicherheit (safety), Informationssicherheit (security), Gebrauchstauglichkeit (usability) oder ethische und regulatorische Fragestellungen, von elementarer Bedeutung. Das Modell der VDE-Anwendungsregel wird Anforderungen definieren, die zu Vertrauenswürdigkeit beitragen. Damit werden unter anderem Grundlagen für Qualifizierung und Zulassung gelegt, die über den weiteren Prozess nachverfolgt werden können.

Die VDE-Anwendungsregel wird verschiedene Entwicklungsschritte anhand des Lebenszyklus für KI-Systeme definieren. Hierzu gehören der Entwurf auf Systemebene (u. a. Vertrauenswürdigkeitsattribute), Komponentenebene (u. a. Hardware, Software und KI-Blaupausen zur Anwendung einer KI-Methodik), Integration, Verifikation und Validierung sowie Abnahme und Freigabe. Das Modell umfasst darüber hinaus auch Vorgaben zur Marktbeobachtung und korrigierende sowie schützende Maßnahmen (eng. Corrective And Preventive Action – CAPA).

Die VDE-Anwendungsregel befindet sich aktuell in der Erarbeitungsphase und wird voraussichtlich ab Februar 2020 zur öffentlichen Konsultation publiziert. Eine Veröffentlichung der VDE-Anwendungsregel ist im 2. Quartal 2020 vorgesehen. Das verantwortliche Expertengremium ist DKE/AK 801.0.8.


Relevante News und Hinweise zu Normen