Künstliche Intelligenz (KI) erfährt weltweit eine immense Expansion. Durch die Automatisierung unserer täglichen Aufgaben verspricht diese Technologie erhebliche Produktivitäts- und Leistungssteigerungen. Sie ist also auf dem besten Weg, Abläufe und Berufe in Unternehmen aller Branchen zu verändern. Heute wird dieser technologische Fortschritt durch das weltweit erste umfassende KI-Gesetz, den "AI Act" (Artifical Intelligence = Künstliche Intelligenz), reguliert. Nun liegt es an den Unternehmen, sich über die potenziellen Auswirkungen zu informieren und sich darauf vorzubereiten.
Was ist der AI Act?
Die EU-Verordnung über Künstliche Intelligenz (AI Act) wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und ist am 1. August 2024 in Kraft getreten.
Sie legt einen harmonisierten Rahmen für die Entwicklung, das Inverkehrbringen und die Verwendung von KI innerhalb der Europäischen Union (EU) fest. Sie enthält eine Reihe ergänzender, verhältnismäßiger und flexibler Bestimmungen, um den Risiken zu begegnen, die durch bestimmte Arten der Nutzung von KI entstehen.
Der AI Act ist Teil eines umfassenden Ansatzes, um die Entwicklung einer menschenzentrierten und vertrauenswürdigen KI zu unterstützen. Mit diesen Maßnahmen wollen die Gesetzgeber die Gesundheit, die Sicherheit und die Grundrechte der Menschen gewährleisten.
Während die meisten dieser Bestimmungen in zwei Jahren in Kraft treten, werden einige bereits früher wirksam. Dies betrifft die verbotenen KI-Systeme sowie die generative KI, die innerhalb von sechs bzw. zwölf Monaten umgesetzt werden sollen.
Ein risikobasierter Ansatz
Der AI Act definiert vier Risikostufen für KI-Systeme: inakzeptables Risiko, hohes Risiko, Transparenzrisiko und minimales bzw. Nullrisiko.
Inakzeptables Risiko
Dies umfasst alle KI-Systeme, die als klare Bedrohung für die Sicherheit, die Rechte und die Lebensgrundlage der Menschen angesehen werden. Dazu zählen beispielsweise Praktiken des sozialen Scoring oder der Emotionsanerkennung am Arbeitsplatz usw. All diese Modelle sind formal verboten.
Hohes Risiko
Dies betrifft KI-Anwendungsfälle, die schwerwiegende Risiken für die Sicherheit, die Gesundheit oder die Grundrechte darstellen können. Dazu gehören beispielsweise KI-Systeme, die in kritischen Infrastrukturen, Bildungseinrichtungen oder in der Justizverwaltung zur biometrischen Fernidentifizierung, Beschäftigung oder zum Migrationsmanagement eingesetzt werden.
Bevor diese Hochrisiko-KI-Systeme in den Verkehr gebracht werden können, unterliegen sie strengen Verpflichtungen. So müssen sie beispielsweise über geeignete Risikobewertungs- und Risikominderungssysteme, eine ausführliche Dokumentation über ihre Funktionsweise und ihren Zweck sowie eine hohe Robustheit, Cybersicherheit und Genauigkeit usw. verfügen.
Transparenzrisiko
Dies bezieht sich auf die Notwendigkeit der Transparenz in bestimmten Fällen. Der AI Act führt spezielle Offenlegungspflichten ein, um sicherzustellen, dass Menschen bei der Nutzung von KI über die erforderlichen Informationen verfügen. Nutzer sollen beispielsweise bei der Verwendung von Chatbots darauf hingewiesen werden, dass sie mit einer Maschine interagieren. Außerdem sollen bestimmte KI-generierte Inhalte, wie Deep Fakes (Mithilfe künstlicher Intelligenz erstellte gefälschte Audio-, Video- oder Bildinhalte, mit denen Gesichter, Stimmen oder Mimik manipuliert werden können, um ultrarealistische, aber irreführende Videos zu erstellen. Dieses Verfahren wird häufig zu Unterhaltungszwecken, aber auch zur Verbreitung von Desinformationen oder für Betrug eingesetzt.), gekennzeichnet werden.
Minimales oder Nullrisiko
Die überwiegende Mehrheit der KI-Systeme fällt in diese Kategorie. Diese unterliegen keinen besonderen Vorschriften.
KI-Modelle mit allgemeinem Verwendungszweck
Abgesehen von diesen Risikobegriffen umfasst der AI Act auch KI-Modelle mit allgemeinem Verwendungszweck. Damit sind diese Werkzeuge gemeint, die für eine Vielzahl von Aufgaben verwendet werden können (Beantwortung von Fragen, Übersetzungen, Erkennung und Generierung von Bildern usw.). Diese können systemische Risiken bergen, wenn sie in großem Umfang eingesetzt werden oder besonders leistungsfähig sind. Für sie sind verschiedene Verpflichtungsstufen vorgesehen, die von Mindesttransparenz und -dokumentation bis hin zu Risikobewertung und -minderung reichen.
AI Act: Welche Auswirkungen hat er auf die Entscheidungsträger im Einkauf?
Diese historische Gesetzgebung wird selbstverständlich Einfluss auf die Europäische Union nehmen, aber auch globale Auswirkungen haben. Dies dürfte dazu führen, dass Unternehmen die Entwicklung, den Einsatz und die Verwaltung von KI-Technologien überdenken.
Insbesondere die Einkaufs- und Rechtsabteilungen in Unternehmen werden sich damit befassen müssen. Sie müssen ihre Anbieter von KI-Technologien jetzt proaktiv verwalten, um sicherzustellen, dass alle Einsätze diese Standards erfüllen.
Um die Überwachung der Lieferanten-Compliance zu gewährleisten, sollte man sich zunächst mit den Grundzügen dieser Gesetzgebung befassen, um die potenziellen Auswirkungen auf das eigene Unternehmen zu verstehen. Anschließend sollte eine Analyse der aktuellen und zukünftigen KI-Einsätze erfolgen, bei der die Risiken kategorisiert werden. Die Europäische Union hat übrigens ein für alle zugängliches Tool zur Prüfung der Konformität zur Verfügung gestellt. Mithilfe dieses Instruments können mögliche Abweichungen von der Norm festgestellt und anschließend korrigiert werden.
Das bedeutet auch, dass bei Verhandlungen mit Softwareanbietern über dieses Thema offen diskutiert werden muss. Es ist auch denkbar, entsprechende Klauseln und Bedingungen zur Einhaltung des Gesetzes in Lizenzverträgen aufzunehmen. Bei bestehenden Anbietern können dadurch Neuverhandlungen oder auch Compliance-Prüfungen erforderlich werden.
Ein wichtiger Schwerpunkt liegt schließlich auf der Schulung. Die Mitarbeiter müssen in den neuen regulatorischen Anforderungen und der ethischen Nutzung von KI geschult werden. So verfügen sie über das Rüstzeug zur effektiven Überwachung und Verwaltung von KI-Systemen.
Hans-Petter Dalen, Leiter des Bereichs Watsonx und integrierte KI bei IBM für die EMEA-Region, erklärt: „Interessanterweise enthält das europäische KI-Gesetz einen Artikel über KI-Schulung. Demnach ist jede Firma oder Organisation im EU-Binnenmarkt, die KI einsetzt, dazu verpflichtet, ihre Nutzer und Mitarbeiter bis zu einem bestimmten Grad zu schulen. Das erforderliche Niveau ist uns noch nicht bekannt, aber es ist eine sehr gute Sache, das Grundniveau an KI-Kompetenz zu erhöhen. Ein Beispiel in diesem Bereich sind Systeme in Personalabteilungen, die bereits heute in der Lage sind, Lebensläufe zu prüfen und Kandidaten zu empfehlen. Dabei handelt es sich um einen Anwendungsfall mit hohem Risiko, für den sieben grundlegende Anforderungen gelten. Sind Sie als Käufer dieser Software ausreichend in KI geschult, um die Fragen zu verstehen, die Sie in Bezug auf Algorithmen stellen müssen?“ (Hans-Petter, Dalen; IBM’s EMEA Business Leader for watsonx and embeddable AI; What the EU AI Act is already changing for businesses, IBM, 2. August 2024, 4 Min.)
Der AI Act stellt einen wichtigen Schritt bei der Regulierung der Künstlichen Intelligenz dar. Um die Vorteile der KI voll auszuschöpfen und gleichzeitig ihre Nutzer zu schützen, müssen die Unternehmen bereits jetzt handeln. So können sie diese neue Technologie zu einem wichtigen Hebel für Innovation, Wettbewerbsfähigkeit und Wachstum ihrer Organisation machen.
