3 Gründe für die Nutzung von Normen zur Bekämpfung KI-generierter Bots und Fakes

Trotz der Vielzahl faszinierender und nützlicher Anwendungsfälle kann KI auch für die Erstellung von Bots und manipulierten Inhalten, sog. Fakes, missbraucht werden. Die Europäische Union arbeitet bereits daran, eine Lösung für die Herausforderungen zu finden, die diese Arten von Desinformationen für die Gesellschaft und Wirtschaft in Europa darstellen können. Die bisher getroffenen Maßnahmen sind allerdings noch nicht ausreichend.

Während das Thema Desinformationen bereits auf verschiedenen Ebenen angegangen wird (z. B. 2017/18 in einer HLEG der EU), wurde die Problematik der enormen, automatisierten Skalierbarkeit der Erstellung von Desinformationen mittels KI noch nicht adressiert.

Die meisten der bestehenden Maßnahmen zur Bekämpfung von Fakes und Bots, wie beispielsweise Faktenchecks oder KI-basierte Analysen, befinden sich in einem nicht zu gewinnenden Wettlauf gegen bessere, schnellere und höher skalierbare Werkzeuge zur Erstellung von Fakes und Bots. Hier kommt nun die Normung ins Spiel.

Normung unterstützt die Regulierung. Sie baut auf fachkundiger Beratung auf und regt die Diskussion zwischen Normungsorganisationen (en: standards development organizations, SDOs), öffentlichen Behörden, akademischen Einrichtungen und anerkannten Fachleuten an. Und nicht zuletzt sind Regulierung und Normung in Europa durch die „Neue Konzeption“ (en: New Approach) bzw. den „Neuen Rechtsrahmen“ (en: New Legislative Framework) eng miteinander verknüpft.

Aus den genannten Gründen wird der Normungsarbeit unter anderem in dem Vorschlag für eine Verordnung zu Künstlicher Intelligenz und dem Vorschlag für ein Gesetz über digitale Dienste ein wichtiger Stellenwert eingeräumt. Auch wurde das von der EU finanzierte Projekt StandICT.eu zur Unterstützung europäischer Fachleute eingerichtet, die sich an der Arbeit von SDOs und SSOs beteiligen bzw. einen Beitrag dazu leisten. Die Arbeit umfasst dabei Themen wie 5G, Cloud Computing, Cybersecurity, Big Data und das Internet der Dinge (IoT), die die wesentlichen Treiber des digitalen Zeitalters darstellen.

Künstliche Intelligenz: Mit Normen und Standards zielgerichtet in die Zukunft

KI gilt als Game Changer und kommt bereits in den unterschiedlichsten Anwendungsfeldern zum Einsatz. Eine zentrale Fragestellung ist dabei immer wieder die, wie Ethik und Technik miteinander vereinbart werden und wie Normen & Standards hierbei unterstützen können.

StandICT.eu 2023 startete am 1. September 2020 und baut auf dem Vorgängerprojekt auf, das von 2018 bis 2020 lief. Eine der technischen Arbeitsgruppen, die im Verlauf der Unterstützung von StandICT gegründet wurde, ist TWG Trusted Information. Die Arbeitsgruppe befasst sich mit Normen und Lösungen für vertrauenswürdige KI, Fakes und Bots und wird von Sebastian Hallensleben geleitet. Er ist bereits Leiter des Bereiches Digitalisierung und KI beim VDE sowie Vorsitzender und Mitglied verschiedener Normungsorganisationen im Bereich Künstliche Intelligenz und Ethik in der KI.

Laut Sebastian Hallensleben gibt es noch immer sehr wenige Normen in Bezug auf KI-generierte Bots. Während beispielsweise bereits eine Vielzahl von Normen im Bereich der Klarnamen-Identitäten existiert, gibt es noch keine einzige für Pseudonyme. Im Zuge der Digitalisierung und technologischen Entwicklung müssen wir daher darüber nachdenken, wie die Vertrauenswürdigkeit digitaler Quellen sichergestellt und dargestellt werden kann, damit die Vorteile von Technologien wie der künstlichen Intelligenz deren Risiken überwiegen. Die TWG Trusted Information hat sich dieser Aufgabe angenommen.

Die Expertengruppe ist der Ansicht, dass entsprechende Maßnahmen zur Bekämpfung von KI-generierten Fakes und Bots Normen erfordern, z. B. Normen zur Rückverfolgung von Informationen bis zu ihrer Quelle bzw. ihrem Ersteller oder Normen für Bot-resistente pseudonyme Identitäten. Eine Idee, die im Laufe der Diskussionen der Arbeitsgruppe entstand, sind „authentische Pseudonyme“.

Authentische Pseudonyme können hilfreich sein, zum Beispiel wenn ein Nutzer Falschnachrichten, sog. „Fake News“, oder ähnlich kritische Inhalte in den sozialen Netzwerken verbreitet. Nach der Sperrung solcher Konten werden gewöhnlicherweise neue Konten eröffnet, um die Verbreitung der Falschmeldungen fortzusetzen. Authentische Pseudonyme können an dieser Stelle einen entscheidenden Vorteil bieten. Es handelt sich bei ihnen um digitale Identitäten, die

• gewährleisten, dass sie zu einer echten Person gehören, aber die nicht zu einer bestimmten Person rückverfolgbar sind;
• in dem jeweiligen Kontext einmalig sind, d.h. es ist möglich verschiedene authentische Pseudonyme für verschiedene Plattformen zu haben, aber innerhalb einer bestimmten Plattform kann eine Person jeweils nur ein Pseudonym verwenden;
• nicht von KI-automatisierten Bots angenommen werden können, sodass der digitale Raum von echten Personen „zurückerobert“ werden kann.

Auch wenn sich viele dieser Ideen noch in einem sehr frühen Stadium befinden, haben sie alle das Ziel, Werkzeuge zur Meinungs- und Vertrauensbildung sowie zur Regulierung von Fakes und Bots bereitzustellen.

Die Deutsche Normungsroadmap Künstliche Intelligenz

verfolgt das Ziel, Handlungsempfehlungen rund um KI für die Normung zu geben.

Künstliche Intelligenz gilt weltweit und in zahlreichen Branchen als eine der Schlüsseltechnologien für künftige Wettbewerbsfähigkeit. Umso wichtiger sind die Empfehlungen der Normungsroadmap, die die deutsche Wirtschaft und Wissenschaft im internationalen KI-Wettbewerb stärken, innovationsfreundliche Bedingungen schaffen und Vertrauen in die Technologie aufbauen sollen.

Obwohl es noch einen Mangel an Normen gibt, die zu einer vertrauenswürdigen KI beitragen und die Gefahren KI-generierter Bots und Fakes bekämpfen, wurden bereits wichtige Leitlinien und Normen entwickelt, die für die aktuellen Diskussionen relevant sind:

• DIN und DKE haben die erste Normungsroadmap Künstliche Intelligenz veröffentlicht, deren zweite Ausgabe bereits in Bearbeitung ist. Auch wenn KI-generierte Fakes und Bots nicht Gegenstand dieses Dokuments sind, beinhaltet es dennoch wichtige Aspekte für ethische KI, die Beachtung finden sollten. An dieser Stelle ist auch der weltweit erste KI-Standard zu nennen, der in Deutschland in Form der VDE-AR-E 2842-61 von den Expert*innen des Normungsgremiums DKE/AK 801.0.8 entwickelt wurde.
• Der VDE hat vor Kurzem ein AI Trust Standard & Label (vgl. VDE SPEC 90012) veröffentlicht. Unternehmen wie Bosch, Siemens, SAP, BASF, TÜV Süd sowie verschiedene wissenschaftliche und zivilgesellschaftliche Einrichtungen haben einen praktischen Ansatz entwickelt, um Merkmale wie Transparenz und Fairness messbar und prüfbar und damit durchsetzbar zu machen.
• JTC1, das gemeinsame technische Komitee von ISO und IEC, hat verschiedene Normen für die elektronische Identifikation und Vertrauensdienste erarbeitet. Darunter die Normenreihe ISO/IEC 24760 als ein Rahmenwerk für das Identitätsmanagement („A framework for identity management“) sowie die ISO/IEC 29100 als Rahmenwerk für Datenschutz („Privacy framework“).
• Bei der ITU wurden bereits zahlreiche Empfehlungen zu Identitätsmanagement und -sicherheit durch ITU-T SG17 erstellt, z. B. zu Bedingungen und Definitionen bzw. zu einer verbesserten Wahrnehmung der Indikatoren für die Vertrauenswürdigkeit durch die Endnutzer.
• Während IEEE außerdem Normen und Vornormen im Bereich der elektronischen Identifikation und Vertrauensdienste erarbeitet, stellt OASIS Normen für Identifikations- und Authentifizierungsverfahren bereit.

Dies sind nur einige der Arbeitsergebnisse, die bereits erzielt wurden. Es gibt noch zahlreiche weitere Ansätze von beispielsweise CEN CENELEC, OIDF, IETF, W3C, ENISA oder Initiativen wie die JTI (Journalism Trust Initiative), die sich der Thematik angenommen haben.

Weitere Informationen zu den Herausforderungen, die KI-automatisierte Fakes und Bots darstellen, den laufenden Normungsarbeiten und der Normungslandschaft finden sich in der Publikation „Trust In The European Digital Space In The Age Of Automated Bots And Fakes“, die von TWG Trusted Information erstellt und von StandICT.eu 2023 im Februar 2022 veröffentlicht wurde.

Mit unserem DKE Newsletter sind Sie immer top informiert! Monatlich ...

• fassen wir die wichtigsten Entwicklungen in der Normung kurz zusammen
• berichten wir über aktuelle Arbeitsergebnisse, Publikationen und Entwürfe
• informieren wir Sie bereits frühzeitig über zukünftige Veranstaltungen

Auch wenn viele Ideen noch ziemlich neu sind, stellen sie einen weiteren Meilenstein in der Normungslandschaft dar. Die Frage ist, in welchem Umfang das bestehende Wissen gebündelt werden kann, um die restlichen Lücken zu füllen und den relevanten Interessengruppen die Empfehlungen und Leitlinien an die Hand zu geben, die tatsächlich benötigt werden.

KI-gestützte Bots und Fakes können viele verschiedene Bereiche betreffen. Aus diesem Grund müssen praktische Beispiele und Erfahrungen gebündelt werden, damit Leitlinien und Normen entwickelt werden können, die einen realen Nutzen bringen. Alle Interessengruppen sind an dieser Stelle einzubeziehen – von der Politik über die Wirtschaft und Gesellschaft bis hin zur Normung, den Medien und dem Journalismus.

Redaktioneller Hinweis:

Die englische Original-Version dieses Artikels ist zunächst auf dem DKE LinkedIn-Kanal erschienen:
3 reasons for combating AI-generated bots and fakes with standards

Weitere international relevante Informationen von und über die DKE finden Sie auf unserem LinkedIn-Kanal:

• Tauchen Sie ein in die Tiefe internationaler, normungsrelevanter Themen;
• vertiefen und erweitern Sie Ihr Wissen mit neuen Formaten und interessanten Fachinformationen;
• vernetzen Sie sich mit Kollegen und Experten aus der ganzen Welt;
• bleiben Sie wie gewohnt über wichtige Neuigkeiten und Veranstaltungen informiert.