E VDE-AR-E 2842-61-1 (VDE -AR-E 2842-61-1):2020-07

Senioren
GlobalStock / iStockphoto

Entwicklung und Vertrauenswürdigkeit von autonom/kognitiven Systemen -

Teil 61-1: Terminologie und Grundkonzepte; Text Englisch

Kurzdarstellung

Referenzmodell für eine vertrauenswürdige KI: Die neue VDE-Anwendungsregel VDE AR 2842-61-1.
Künstliche Intelligenz (KI) verfügt über das große Potenzial, die Gesellschaft, Wirtschaft und das Zusammenleben der Menschen nachhaltig zu verändern. Sie kann helfen, Emissionen zu verringern, Krankheiten zu entdecken, Menschen oder Güter zu transportieren oder Prozesse effizienter zu gestalten. Gleichzeitig stellt KI die Menschheit vor große Herausforderungen zu den Befugnissen eines KI-Systemen.
Die Lösung dieser Fragen erfordert eine technische Umsetzung bei der Konzeption von KI-Systemen und -Algorithmen. Es müssen technische Regeln implementiert werden, die definieren, wie KI-Komponenten in Produkte integriert werden können und den vorgelagerten Entwurfsprozess beschreiben.
Die Sicherheit von KI-Systemen und -Lösungen muss zu jeder Zeit gewährleistet sein, sobald diese im Markt zur Anwendung kommen. Die Besonderheit von KI-Systemen ist deren Komplexität: Funktionen können nicht einfach (durch den Menschen) geprüft werden. Das System muss die Sicherheit selbst gewährleisten und beispielsweise Anforderungen der funktionalen Sicherheit inhärent erfüllen.
Diese VDE-Anwendungsregel wird auch Vorgaben zu Verifikation und Qualifikation solcher Systeme geben und somit den gesamten Lebenszyklus abbilden.
Einen besonderen Schwerpunkt legt diese VDE-Anwendungsregel auf die Entwurfsphase (development): Die Abgrenzung im Vergleich zu den klassischen Grenzen einer Maschine wird weiter gefasst, da die Interaktion mit dem Menschen und die Interaktion mit der Umgebung mit spezifiziert werden muss.
Insbesondere für KI-Systeme sind Vertrauenswürdigkeitsanforderungen (trustworthiness), wie physische Sicherheit (safety), Informationssicherheit (security), Gebrauchstauglichkeit (usability) oder ethische und regulatorische Fragestellungen, von elementarer Bedeutung. Das Modell der VDE-Anwendungsregel wird Anforderungen definieren, die zu Vertrauenswürdigkeit beitragen. Damit werden unter anderem Grundlagen für Qualifizierung und Zulassung gelegt, die über den weiteren Prozess nachverfolgt werden können.
Diese VDE-Anwendungsregel wird verschiedene Entwicklungsschritte anhand des Lebenszyklus für KI-Systeme definieren. Hierzu gehören der Entwurf auf Systemebene (u. a. Vertrauenswürdigkeitsattribute), Komponentenebene (u. a. Hardware, Software und KI-Blaupausen zur Anwendung einer KI-Methodik), Integration, Verifikation und Validierung sowie Abnahme und Freigabe. Das Modell umfasst darüber hinaus auch Vorgaben zur Marktbeobachtung und korrigierende sowie schützende Maßnahmen (eng. Corrective And Preventive Action - CAPA).
Zuständig ist das DKE/K 801 "System Komitee AAL" der DKE Deutsche Kommission Elektrotechnik Elektronik Informationstechnik in DIN und VDE.

Dieses Dokument entspricht:

Dokumentart
Entwurf Anwendungsregel
Status
Aktuell
Erscheinungsdatum
01.07.2020
Sprache
Deutsch
Zuständiges Gremium

Ansprechpartner

Referat
Janina Laurila-Dürsch
Stresemannallee
60596 Frankfurt am Main

0r4z4r.2r@8z2r-u@v89tyQAuv.t53 Tel. +49 69 6308-378

Referatsassistenz
Nicole Winkelmann
Stresemannallee
60596 Frankfurt am Main

4zt52v.Bz41v23r44QAuv.t53 Tel. +49 69 6308-326

Newsletter in Tablet liegt auf einer Tastatur
Coloures-Pic / stock.adobe.com

Mit dem DKE Newsletter sind Sie immer am Puls der Zeit!

In unserem monatlich erscheinenden Newsletter ...

  • fassen wir die wichtigsten Entwicklungen in der Normung kurz zusammen
  • berichten wir über aktuelle Arbeitsergebnisse, Publikationen und Entwürfe
  • informieren wir Sie bereits frühzeitig über zukünftige Veranstaltungen
Ich möchte den DKE Newsletter erhalten!

Werden Sie aktiv!

Ergebnisse rund um die Normung