Der Artificial Intelligence Act (AI Act) ist eine Verordnung der Europäischen Union, die einen gemeinsamen Regulierungs- und Rechtsrahmen für künstliche Intelligenz innerhalb der EU schafft. Er trat am 1. August 2024 in Kraft, wobei die Bestimmungen schrittweise über die folgenden 6 bis 36 Monate in Kraft traten. Die Verordnung deckt die meisten KI-Systeme in einer Vielzahl von Sektoren ab, mit Ausnahmen für KI, die ausschließlich für militärische Zwecke, nationale Sicherheit, Forschungszwecke oder für nicht-professionelle Nutzung verwendet wird. Als eine Form der Produktregulierung schafft sie keine individuellen Rechte; stattdessen legt sie Pflichten für KI-Anbieter und für Organisationen fest, die KI in einem beruflichen Kontext nutzen.
Die Verordnung klassifiziert nicht ausgenommene KI-Anwendungen nach ihrem Risiko, Schaden zu verursachen, mit vier Stufen – inakzeptabel, hoch, begrenzt, minimal – plus einer zusätzlichen Kategorie für allgemeine KI. Anwendungen mit inakzeptablem Risiko sind verboten. Hochriskante Anwendungen müssen Sicherheits-, Transparenz- und Qualitätsanforderungen erfüllen und Konformitätsbewertungen durchlaufen. Anwendungen mit begrenztem Risiko haben nur Transparenzpflichten. Anwendungen mit minimalem Risiko sind nicht reguliert. Für allgemeine KI werden Transparenzanforderungen auferlegt, mit reduzierten Anforderungen für Open-Source-Modelle und zusätzlichen Bewertungen für Modelle mit hoher Leistungsfähigkeit. Die Verordnung schafft auch einen Europäischen Ausschuss für künstliche Intelligenz, um die nationale Zusammenarbeit zu fördern und die Einhaltung der Verordnung sicherzustellen. Wie die Datenschutz-Grundverordnung der EU kann die Verordnung extraterritorial auf Anbieter von außerhalb der EU angewendet werden, wenn sie Nutzer innerhalb der EU haben.
Gesetzgebungsgeschichte
Die Europäische Kommission schlug den AI Act am 21. April 2021 vor. Der Entwurf wurde überarbeitet, um den Anstieg der Beliebtheit generativer KI-Systeme wie ChatGPT zu berücksichtigen, deren allgemeine Fähigkeiten nicht in den Hauptrahmen passten. Das Europäische Parlament verabschiedete die Verordnung am 13. März 2024, und der EU-Rat genehmigte sie einstimmig am 21. Mai 2024. Die Verordnung trat am 1. August 2024 in Kraft, wobei die Bestimmungen über die folgenden 6 bis 36 Monate schrittweise eingeführt wurden.
Risikokategorien
Der AI Act verfolgt einen risikobasierten Ansatz und weist Anbietern und Bereitstellern von KI-Systemen regulatorische Pflichten zu. Diese Pflichten werden anspruchsvoller, je größer die potenziellen Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte sind. Diese Struktur stellt sicher, dass die Aufsicht sich auf Systeme konzentriert, die wahrscheinlich erhebliche Risiken schaffen, während sie für als weniger sensibel erachtete Nutzungen leichtere Ansätze ermöglicht.
Inakzeptables Risiko
KI-Anwendungen in dieser Kategorie sind verboten, außer bei spezifischen Ausnahmen. Wenn keine Ausnahme gilt, umfasst dies KI-Anwendungen, die menschliches Verhalten manipulieren, solche, die Echtzeit-Fernbiometrie (wie Gesichtserkennung) in öffentlichen Räumen verwenden, und solche, die für soziales Scoring verwendet werden (Einstufung von Personen basierend auf ihren persönlichen Merkmalen, ihrem sozioökonomischen Status oder ihrem Verhalten).
Hohes Risiko
KI-Anwendungen, von denen erwartet wird, dass sie erhebliche Bedrohungen für Gesundheit, Sicherheit oder die Grundrechte von Personen darstellen, fallen in diese Kategorie. Insbesondere KI-Systeme, die im Gesundheitswesen, in der Bildung, bei der Personalbeschaffung, im Management kritischer Infrastrukturen, in der Strafverfolgung oder im Justizwesen eingesetzt werden, sind eingeschlossen. Sie unterliegen Qualitäts-, Transparenz-, menschlicher Aufsichts- und Sicherheitspflichten und erfordern in einigen Fällen eine Folgenabschätzung für Grundrechte (FRIA) vor der Bereitstellung. Eine FRIA ist eine Ex-ante-Überprüfung, um potenzielle Auswirkungen auf Grundrechte zu identifizieren und zu mildern, bevor ein KI-System bereitgestellt wird. Frühere Arbeiten zu algorithmischen Folgenabschätzungen haben nahegelegt, dass solche Instrumente identifizieren sollten, welche Einzelpersonen und Gemeinschaften von einem automatisierten System betroffen sind, mögliche Schäden beschreiben und eine Grundlage für öffentliche und institutionelle Prüfung seiner Nutzung bieten sollten. Hochriskante Systeme müssen sowohl vor dem Inverkehrbringen als auch während ihres gesamten Lebenszyklus bewertet werden. Die Liste hochriskanter Anwendungen kann im Laufe der Zeit erweitert werden, ohne den AI Act selbst zu ändern. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die von hochriskanter KI getroffen werden und ihre Rechte betreffen.
Begrenztes Risiko
KI-Systeme in dieser Kategorie haben Transparenzpflichten, die sicherstellen, dass Nutzer darüber informiert werden, dass sie mit einem KI-System interagieren, und ihnen ermöglichen, informierte Entscheidungen zu treffen. Diese Kategorie umfasst KI-Anwendungen, die Bilder, Töne oder Videos erzeugen oder manipulieren, wie Deepfakes.
Minimales Risiko
Diese Kategorie umfasst KI-Systeme, die für Videospiele oder Spamfilter verwendet werden. Es wird erwartet, dass die meisten KI-Anwendungen in diese Kategorie fallen. Diese Systeme sind nicht reguliert, und die Mitgliedstaaten können aufgrund von Höchstharmonisierungsregeln keine zusätzlichen Vorschriften auferlegen. Bestehende nationale Gesetze zur Gestaltung oder Nutzung solcher Systeme werden außer Kraft gesetzt. Ein freiwilliger Verhaltenskodex wird jedoch vorgeschlagen.
Pflichten für allgemeine KI
Die 2023 hinzugefügte Kategorie der allgemeinen KI umfasst Basismodelle (zum Beispiel ChatGPT), die eine breite Palette von Aufgaben ausführen können. Wenn die Gewichte und das Design eines Modells als Open Source veröffentlicht werden, müssen Entwickler eine Zusammenfassung der Trainingsdaten und eine Urheberrechtsrichtlinie veröffentlichen; Closed-Source-Modelle müssen umfassendere Transparenzanforderungen erfüllen. Modelle mit hoher Auswirkung, die systemische Risiken darstellen (die mehr als 10^25 Gleitkommaoperationen zum Trainieren erfordern), müssen zusätzliche Bewertungen durchlaufen.
Über diese grundlegenden Transparenzpflichten hinaus legt die Verordnung eine gemeinsame Liste von Pflichten für Anbieter allgemeiner KI-Modelle fest. Sie müssen eine Zusammenfassung der Trainingsdaten veröffentlichen, eine Richtlinie zur Einhaltung des Urheberrechtsgesetzes annehmen und technische Dokumentation an nachgelagerte Anbieter und Aufsichtsbehörden bereitstellen. Modelle, die als systemisches Risiko darstellend eingestuft werden, müssen auch Modellbewertungen und adversariale Tests durchführen, Risiken wie Voreingenommenheit und Sicherheitsfehler bewerten und mindern, schwerwiegende Vorfälle melden und ein angemessenes Cybersicherheitsniveau gewährleisten.
Ein Verhaltenskodex für allgemeine KI, veröffentlicht am 10. Juli 2025, skizziert drei Hauptkapitel zu Transparenz, Urheberrecht sowie Sicherheit und Schutz, um Anbietern zu helfen, die Einhaltung des AI Act nachzuweisen. Die Teilnahme am Kodex ist freiwillig.
Ausnahmen
Artikel 2.3 und 2.6 nehmen KI-Systeme aus, die für militärische oder nationale Sicherheitszwecke oder reine wissenschaftliche Forschung und Entwicklung verwendet werden. Die Verordnung gilt nicht, wenn KI-Systeme ausschließlich für militärische, Verteidigungs- oder nationale Sicherheitszwecke verwendet werden, oder für Systeme, die ausschließlich für wissenschaftliche Forschung entwickelt und in Betrieb genommen werden.
Umsetzung und Durchsetzung
Die Verordnung schafft einen Europäischen Ausschuss für künstliche Intelligenz, um die nationale Zusammenarbeit zu fördern und die Einhaltung der Verordnung sicherzustellen. Die schrittweise Umsetzung bedeutet, dass verschiedene Pflichten zu unterschiedlichen Zeiten über die 6 bis 36 Monate nach Inkrafttreten anwendbar werden. Der extraterritoriale Geltungsbereich spiegelt die DSGVO wider und gilt für Anbieter von außerhalb der EU, wenn sie Nutzer innerhalb der EU haben.
Rezeption und Analyse
Das risikobasierte Schema folgt einem Produktsicherheitsmodell und rahmt „vertrauenswürdige KI“ als Systeme, die die Einhaltung von Sicherheits- und Risikoschwellen nachweisen können. Laut einer ersten Bewertung durch den Wissenschaftlichen Dienst des Europäischen Parlaments stützte sich die Folgenabschätzung der Kommission auf Konsultationen von Interessengruppen und eine breite Palette bestehender Forschung, als sie politische Optionen für diesen risikobasierten Rahmen verglich.