Die aktuelle Normenreihe DIN EN 61508 wurde 2011 veröffentlicht, daher ist diese Technologie nicht umfänglich berücksichtigt. Das Lebenszyklus-Modell bildet eine Basis um KI-Entwicklungen zu integrieren, müsste aber um KI-spezifische Entwicklungsphasen ergänzt werden.
KI wird einmal im normativen Teil erwähnt: Laut Tabelle A.2 im Anhang A der DIN EN 61508-3 (VDE 0803-3):2011 ist das Verfahren bzw. die Maßname „Künstliche Intelligenz - Fehlerkorrektur“ für SIL 2, SIL 3 und SIL 4 mit „--“ markiert.
„--“ bedeutet: „Das Verfahren oder die Maßnahme wird für diesen Sicherheits-Integritätslevel ausdrücklich nicht empfohlen. Wenn dieses Verfahren oder diese Maßnahme verwendet wird, dann sollte der Grund mit Bezug zu Anhang C während der Sicherheitsplanung ausführlich dargelegt und mit der beurteilenden Person abgestimmt werden.“
Diese negative Empfehlung wird im informativen Anhang C Tabelle C.2 der gleichen Norm begründet. Die Verwendung von KI als Verfahren/Maßnahme kann die Erreichung folgender Eigenschaften erschweren:
- Korrektheit in Bezug auf die Spezifikation der Anforderungen an die Sicherheit der Software
- Freiheit von Entwurfsfehlern
- Einfachheit und Verständlichkeit
- Voraussagbarkeit des Verhaltens
- Nachweisbarer und testbarer Entwurf
KI wird in der Norm zur Fehleranalyse ausdrücklich nicht empfohlen. Die Norm spricht jedoch auch kein explizites Verbot aus.
Was mit „Künstliche Intelligenz – Fehlerkorrektur“ gemeint ist, wird in DIN EN 61508-7 (VDE 0803-7):2011-02 näher erläutert:
„Ziel: Auf mögliche Gefährdungen in einer sehr flexiblen Art reagieren, indem eine Kombination aus Methoden und Prozessmodellen und einer Art von Online-Sicherheits- und Zuverlässigkeitsanalysen eingeführt wird.
Beschreibung: Durch Systeme auf der Grundlage künstlicher Intelligenz (en: artificial intelligence, AI) können Fehlervorhersagen (Trendrechnungen), Fehlerkorrekturen sowie Instandhaltungs- und Überwachungstätigkeiten sehr wirkungsvoll in diversitären Kanälen eines Systems unterstützt werden, weil die Regeln direkt von der Spezifikation abgeleitet und gegen diese getestet werden können. Einige Fehler gemeinsamer Ursache, die aufgrund bestimmter Realisierungsvorstellungen bei der Erstellung der Spezifikation gemacht worden sind, können durch diesen Ansatz wirksam vermieden werden. Dies gilt besonders, wenn eine Kombination von Modellen und Methoden in einer funktionalen oder beschreibenden Art angewendet wird. Um die gewünschte Sicherheitsintegrität zu erreichen, werden die Methoden derart ausgewählt, dass Fehler korrigiert und die Auswirkungen der Ausfälle vermindert werden.“