uncertAInty

Künstliche Intelligenz (KI) gilt als Hoffnungsträger bei der Lösung von Problemen, die auf konventionelle Art nicht oder nur schwierig realisierbar sind. Allerdings sind die Ausgaben der KI mit Unsicherheiten behaftet.

Künstliche neuronale Netze klassifizieren Verkehrsteilnehmer nicht richtig und die fehlerhaften Ausgaben von generativer KI werden oft mit Halluzinationen verglichen. Hieraus ergeben sich Risiken und Chancen für den Wirtschaftsstandort Deutschland. Deutsche Hersteller trauen sich nicht auf den Markt, wenn nicht klar festgelegt ist, ab welcher Unsicherheit ein Einsatz von Kl in welchen Anwendungsfällen möglich ist. Die wissenschaftliche Herausforderung dabei ist die Quantifizierung der Unsicherheit.

Im Rahmen der ISO/IEC TS 25223 werden aktuell Anforderungen an die Quantifizierung der Unsicherheiten erhoben. In dem Vorhaben geht es darum, Ansätze aus der DIN SPEC 92005 vom Maschinellen Lernen auf KI-Systeme zu erweitern, um damit beispielsweise auch generative KI abzudecken, sowie diese auf der internationalen Ebene zu vertreten. Dies ist ein wesentlicher Beitrag zur nationalen Strategie, mit „Al made in Germany“ ein weltweit anerkanntes Gütesiegel für KI zu schaffen.

Das erste Ziel ist die erfolgreiche Entwicklung von ISO/IEC TS 25223, in der

• die grundlegende Terminologie sowie die Merkmale ausgewählter Ansätze für die Unsicherheitsquantifizierung in KI-Systemen definiert werden sollen,
• die Eigenschaften und Ansätze anhand ausgewählter Anwendungen beschrieben werden,
• Anforderungen und Empfehlungen für die Entwicklung und Verwendung von Methoden zur Quantifizierung von Unsicherheiten in KI-Systemen erarbeitet werden und
• alle Phasen des KI-Systemlebenszyklus berücksichtigt werden.

Das zweite Ziel ist die Etablierung des ISO/IEC TS 25223 als Ausgangsbasis für markteinführungsrelevante Standards im Hinblick auf Anforderungen bezüglich der Unsicherheit von KI-Systemen. Eine wichtige Markteintrittshürde für Produkte ist die Sicherheit (Safety), die mit dieser Norm ebenfalls abgedeckt werden soll.