Der EU AI Act 2029 markiert die vollständige Anwendung des Gesetzes über künstliche Intelligenz (AI Act) der Europäischen Union, einer umfassenden Verordnung, die einen gemeinsamen Regulierungs- und Rechtsrahmen für künstliche Intelligenz (KI) innerhalb der EU schafft. Das Gesetz trat am 1. August 2024 in Kraft, wobei die Bestimmungen über einen Zeitraum von 6 bis 36 Monaten schrittweise eingeführt wurden, was bedeutet, dass bis 2029 die meisten Verpflichtungen, einschließlich derer für Hochrisiko-KI-Systeme, vollständig betriebsbereit sind. Die Verordnung deckt die meisten KI-Systeme in einer Vielzahl von Sektoren ab, mit Ausnahmen für KI, die ausschließlich für militärische Zwecke, nationale Sicherheit, Forschung oder nicht-professionelle Zwecke verwendet wird. Als eine Form der Produktregulierung schafft sie keine individuellen Rechte; stattdessen auferlegt sie Pflichten für KI-Anbieter und Organisationen, die KI in einem beruflichen Kontext nutzen.
Das KI-Gesetz klassifiziert nicht ausgenommene KI-Anwendungen in vier Risikostufen – unannehmbar, hoch, begrenzt und minimal – plus eine zusätzliche Kategorie für allgemeine KI. Dieses risikobasierte Schema folgt einem Produktsicherheitsmodell, bei dem die regulatorischen Pflichten mit den potenziellen Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte zunehmen. Das Gesetz richtet außerdem den Europäischen Ausschuss für künstliche Intelligenz ein, um die Zusammenarbeit der nationalen Behörden zu fördern und die Einhaltung sicherzustellen. Wie die Datenschutz-Grundverordnung der EU kann das Gesetz extraterritorial auf Anbieter von außerhalb der EU angewendet werden, wenn sie Nutzer innerhalb der EU haben.
Entstehungsgeschichte
Die Europäische Kommission schlug das KI-Gesetz am 21. April 2021 vor. Das Europäische Parlament verabschiedete es am 13. März 2024, und der EU-Rat genehmigte es am 21. Mai 2024 einstimmig. Der Entwurf wurde überarbeitet, um dem Aufkommen generativer KI-Systeme wie großen Sprachmodellen Rechnung zu tragen, deren Fähigkeiten für allgemeine Zwecke nicht in den ursprünglichen Rahmen passten. Die langfristigen Bestimmungen des Gesetzes, die bis 2029 wirksam werden, umfassen umfassende Verpflichtungen für Hochrisiko-KI und allgemeine Modelle sowie die Einrichtung des Europäischen Ausschusses für künstliche Intelligenz.
Risikokategorien
Unannehmbares Risiko
KI-Anwendungen in dieser Kategorie sind verboten, mit Ausnahme bestimmter Ausnahmen. Dies umfasst KI, die menschliches Verhalten manipuliert, Echtzeit-Biometrie-Fernidentifizierung (wie Gesichtserkennung) im öffentlichen Raum und Social Scoring – die Einstufung von Personen basierend auf persönlichen Merkmalen, sozioökonomischem Status oder Verhalten. Diese Verbote gelten ab 2024, aber bis 2029 werden sie in allen Mitgliedstaaten vollständig durchgesetzt.
Hohes Risiko
Hochrisiko-KI-Anwendungen sind solche, von denen erwartet wird, dass sie erhebliche Bedrohungen für Gesundheit, Sicherheit oder Grundrechte darstellen. Beispiele umfassen KI, die im Gesundheitswesen, in der Bildung, bei der Personalbeschaffung, im Management kritischer Infrastruktur, in der Strafverfolgung oder im Justizwesen eingesetzt wird. Diese Systeme müssen Sicherheits-, Transparenz- und Qualitätsverpflichtungen erfüllen und Konformitätsbewertungen durchlaufen. Sie erfordern außerdem eine Folgenabschätzung für Grundrechte (FRIA) vor der Bereitstellung – eine Ex-ante-Überprüfung zur Identifizierung und Minderung potenzieller Auswirkungen auf Grundrechte. Hochrisikosysteme müssen sowohl vor dem Inverkehrbringen als auch während ihres gesamten Lebenszyklus bewertet werden. Die Liste der Hochrisikoanwendungen kann im Laufe der Zeit erweitert werden, ohne das KI-Gesetz zu ändern. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die von Hochrisiko-KI getroffen werden und ihre Rechte betreffen.
Begrenztes Risiko
KI-Systeme mit begrenztem Risiko unterliegen Transparenzpflichten, die sicherstellen, dass Nutzer darüber informiert werden, dass sie mit einem KI-System interagieren. Diese Kategorie umfasst KI, die Bilder, Töne oder Videos erzeugt oder manipuliert, wie Deepfakes. Bis 2029 sind diese Transparenzanforderungen vollständig anwendbar.
Minimales Risiko
KI-Systeme mit minimalem Risiko, wie sie in Videospielen oder Spam-Filtern verwendet werden, sind nicht reguliert. Es wird erwartet, dass die meisten KI-Anwendungen in diese Kategorie fallen. Mitgliedstaaten können aufgrund von Harmonisierungsregeln keine zusätzlichen Vorschriften erlassen, und bestehende nationale Gesetze werden außer Kraft gesetzt. Ein freiwilliger Verhaltenskodex wird empfohlen.
Allgemeine KI
Die 2023 hinzugefügte Kategorie der allgemeinen KI umfasst Basismodelle, die eine Vielzahl von Aufgaben ausführen können, wie generative KI-Systeme. Wenn die Gewichte und das Design eines Modells als Open Source veröffentlicht werden, müssen Entwickler eine Zusammenfassung der Trainingsdaten und eine Urheberrechtsrichtlinie veröffentlichen; Closed-Source-Modelle müssen umfassendere Transparenzanforderungen erfüllen. Modelle mit hoher Wirkung, die systemische Risiken darstellen – die mehr als 10^25 Gleitkommaoperationen zum Training erfordern – müssen zusätzlichen Bewertungen unterzogen werden. Der Verhaltenskodex für allgemeine KI, veröffentlicht am 10. Juli 2025, skizziert drei Hauptkapitel zu Transparenz, Urheberrecht sowie Sicherheit und Schutz, um Anbietern den Nachweis der Konformität zu erleichtern. Die Teilnahme ist freiwillig.
Anbieter von Modellen für allgemeine KI müssen eine Zusammenfassung der Trainingsdaten veröffentlichen, eine Richtlinie zur Urheberrechtskonformität annehmen und technische Dokumentation an nachgelagerte Anbieter und Aufsichtsbehörden bereitstellen. Modelle, die als systemisches Risiko eingestuft werden, müssen außerdem Modellbewertungen und adversariale Tests durchführen, Risiken wie Verzerrungen und Sicherheitsfehler bewerten und mindern, schwerwiegende Vorfälle melden und eine angemessene Cybersicherheit gewährleisten.
Ausnahmen
Die Artikel 2.3 und 2.6 nehmen KI-Systeme, die für militärische Zwecke oder die nationale Sicherheit oder für reine wissenschaftliche Forschung und Entwicklung verwendet werden, vom KI-Gesetz aus. Die Verordnung gilt nicht, wenn KI-Systeme ausschließlich für militärische, Verteidigungs- oder nationale Sicherheitszwecke verwendet werden, oder für Systeme, die ausschließlich für Forschungszwecke entwickelt und in Betrieb genommen werden. Diese Ausnahme bleibt bis 2029 bestehen.
Durchsetzung und Governance
Der Europäische Ausschuss für künstliche Intelligenz, der im Rahmen des Gesetzes eingerichtet wurde, fördert die Zusammenarbeit der nationalen Behörden und stellt die Einhaltung sicher. Das Gesetz kann extraterritorial auf Anbieter von außerhalb der EU angewendet werden, wenn sie Nutzer innerhalb der EU haben, ähnlich wie die Datenschutz-Grundverordnung. Bis 2029 wird erwartet, dass die Mitgliedstaaten nationale Aufsichtsbehörden benannt haben, um die Verordnung durchzusetzen. Der risikobasierte Ansatz des Gesetzes soll die Aufsicht auf Systeme konzentrieren, die wahrscheinlich erhebliche Risiken schaffen, während für weniger sensible Verwendungen leichtere Ansätze ermöglicht werden.
Auswirkungen und Implikationen
Die langfristigen Bestimmungen des KI-Gesetzes, die bis 2029 vollständig wirksam werden, werden voraussichtlich die Entwicklung und Bereitstellung von KI in der EU und darüber hinaus prägen. Die Verordnung beeinflusst globale Standards, da viele Nicht-EU-Anbieter konform sein müssen, um EU-Nutzer zu bedienen. Das Gesetz fördert auch Innovation, indem es einen klaren rechtlichen Rahmen bietet, insbesondere für Hochrisiko- und allgemeine KI. Einige Rechtswissenschaftler argumentieren jedoch, dass das Gesetz „vertrauenswürdige KI“ als Systeme definiert, die die Einhaltung von Sicherheits- und Risikoschwellen nachweisen können, was die Einhaltung von Vorschriften über breitere ethische Überlegungen stellen könnte. Die erste Bewertung des Wissenschaftlichen Dienstes des Europäischen Parlaments stellte fest, dass die Folgenabschätzung der Kommission auf Konsultationen von Interessenträgern und vorhandener Forschung beim Vergleich politischer Optionen beruhte.
Zukunftsausblick
Ab 2029 ist das KI-Gesetz vollständig betriebsbereit, aber die Landschaft der künstlichen Intelligenz entwickelt sich weiter. Das Gesetz erlaubt die Erweiterung der Hochrisikokategorien und Aktualisierungen des Verhaltenskodex für allgemeine KI. Die EU könnte zusätzliche Leitlinien oder Änderungen einführen, um aufkommende Technologien wie neuronale Netze und Deep-Learning-Systeme zu adressieren. Der Erfolg des Gesetzes wird von einer effektiven Durchsetzung und internationaler Zusammenarbeit abhängen.