Die Abstimmung über das EU-KI-Gesetz bezieht sich auf die Plenarabstimmung des Europäischen Parlaments am 14. März 2024, die das Gesetz über künstliche Intelligenz (KI-Gesetz) formell billigte, eine wegweisende Verordnung, die einen umfassenden Rechtsrahmen für künstliche Intelligenz in der Europäischen Union etabliert. Die Abstimmung, die in Straßburg, Frankreich, stattfand, sah 523 Mitglieder des Europäischen Parlaments (MdEP), die dafür stimmten, 46 dagegen und 49 Enthaltungen, womit der Text gebilligt wurde, der im Dezember 2023 in Trilog-Verhandlungen mit dem Rat der Europäischen Union vereinbart worden war. Diese Zustimmung markierte den Höhepunkt eines Gesetzgebungsverfahrens, das im April 2021 begann, als die Europäische Kommission das KI-Gesetz erstmals vorschlug, und positionierte die EU als erste große Rechtsordnung, die verbindliche Regeln speziell für KI-Systeme erließ.
Das KI-Gesetz verfolgt einen risikobasierten Ansatz und kategorisiert KI-Anwendungen in vier Stufen: inakzeptables Risiko (verboten), hohes Risiko (strengen Verpflichtungen unterworfen), begrenztes Risiko (Transparenzanforderungen) und minimales Risiko (freiwillige Verhaltenskodizes). Verbotene Praktiken umfassen Social Scoring durch Regierungen, Echtzeit-Fernbiometrie-Identifizierung in öffentlich zugänglichen Räumen für Strafverfolgungszwecke (mit engen Ausnahmen) sowie manipulative oder ausbeuterische KI-Systeme. KI-Systeme mit hohem Risiko, wie sie in kritischer Infrastruktur, Bildung, Beschäftigung, Gesundheitswesen und Strafverfolgung eingesetzt werden, müssen Anforderungen an Risikomanagement, Datenverwaltung, technische Dokumentation, Transparenz, menschliche Aufsicht und Robustheit erfüllen. Allgemeine KI-Modelle, einschließlich großer Sprachmodelle, unterliegen zusätzlichen Verpflichtungen, wobei Modelle mit systemischem Risiko strengeren Bewertungen und Meldepflichten für Vorfälle unterliegen.
Die Abstimmung war ein entscheidendes Ereignis in der globalen Governance von Artificial intelligence und setzte einen Präzedenzfall für andere Rechtsordnungen. Die Verordnung trat am 1. August 2024 in Kraft, mit einem gestaffelten Umsetzungszeitplan: Verbote für Praktiken mit inakzeptablem Risiko gelten ab Februar 2025, Verpflichtungen für allgemeine KI ab August 2025 und die vollständige Anwendung für Systeme mit hohem Risiko bis August 2026. Das KI-Gesetz etablierte auch das Europäische Amt für künstliche Intelligenz innerhalb der Europäischen Kommission, um die Umsetzung und Durchsetzung zu überwachen.
Gesetzgebungshintergrund
Die Ursprünge des KI-Gesetzes reichen bis zum Weißbuch der Europäischen Kommission zur KI von 2020 zurück, das politische Optionen zur Förderung vertrauenswürdiger KI unter Berücksichtigung von Risiken skizzierte. Der formelle Vorschlag der Kommission im April 2021 folgte einer Entschließung des Europäischen Parlaments, die einen Regulierungsrahmen forderte. Der Vorschlag durchlief umfangreiche Verhandlungen, wobei der Rat im Dezember 2022 seinen allgemeinen Ansatz annahm und das Parlament im Juni 2023 seine Verhandlungsposition erreichte. Die Trilog-Verhandlungen wurden im Dezember 2023 abgeschlossen und erzeugten einen Kompromisstext, der Innovation und den Schutz der Grundrechte ausbalancierte.
Zentrale Debatten während des Prozesses drehten sich um die Definition von KI, den Umfang verbotener Praktiken und die Behandlung allgemeiner KI. Der endgültige Text erweiterte die Definition um maschinelle Lern- und logikbasierte Systeme und führte abgestufte Verpflichtungen für Basismodelle ein, ein Begriff, der Systeme wie Large language models umfasst. Die Abstimmung des Parlaments am 14. März 2024 war der letzte gesetzgeberische Schritt vor der formellen Annahme durch den Rat, die am 21. Mai 2024 erfolgte, gefolgt von der Veröffentlichung im Amtsblatt am 12. Juli 2024.
Risikobasierter Rahmen
Die zentrale Innovation des KI-Gesetzes ist seine Risikopyramide, die die regulatorische Intensität an den potenziellen Schaden kalibriert. KI mit inakzeptablem Risiko ist vollständig verboten, einschließlich Systemen, die subliminale Techniken einsetzen, um Verhalten zu verzerren, Schwachstellen bestimmter Gruppen ausnutzen, Personen basierend auf sozialem Verhalten bewerten oder klassifizieren (Social Scoring) oder Echtzeit-Fernbiometrie-Identifizierung in öffentlichen Räumen für Strafverfolgungszwecke verwenden, außer für eng definierte schwere Straftaten mit gerichtlicher Genehmigung.
KI-Systeme mit hohem Risiko unterliegen Konformitätsbewertungen, die Anforderungen an Datenqualität, Rückverfolgbarkeit, Transparenz, menschliche Aufsicht und Genauigkeit erfüllen müssen. Anbieter müssen Risikomanagementsysteme implementieren, technische Dokumentationen führen und sich in einer EU-Datenbank registrieren. Für Systeme mit hohem Risiko, die in Produkte eingebettet sind, wie medizinische Geräte oder Fahrzeuge, richtet sich das KI-Gesetz nach bestehender sektoraler Gesetzgebung und verlangt Konformitätsbewertungsverfahren, die benannte Stellen einbeziehen können.
KI mit begrenztem Risiko, wie Chatbots und Deepfakes, muss offenlegen, dass Benutzer mit einem KI-System interagieren oder dass Inhalte KI-generiert sind, um Transparenz zu gewährleisten. KI mit minimalem Risiko, einschließlich der meisten Verbraucheranwendungen wie Spamfilter oder Videospiele, unterliegt keinen zusätzlichen Verpflichtungen über das bestehende Recht hinaus, aber das Gesetz fördert freiwillige Verhaltenskodizes.
Allgemeine KI und Basismodelle
Eine bedeutende Ergänzung während der Verhandlungen war die Regulierung allgemeiner KI-Modelle (GPAI), die eine breite Palette von Aufgaben ausführen können, einschließlich derer, die Generative AI-Anwendungen zugrunde liegen. Das KI-Gesetz unterscheidet zwischen GPAI-Modellen und GPAI-Modellen mit systemischem Risiko, wobei letztere durch hohe Rechenleistung (über 10^25 FLOPs) oder Auswirkungen auf den Binnenmarkt definiert sind. Anbieter von GPAI-Modellen müssen technische Dokumentationen führen, Informationen an nachgelagerte Entwickler bereitstellen und das Urheberrecht einhalten. Modelle mit systemischem Risiko unterliegen zusätzlichen Pflichten, einschließlich der Durchführung von Modellevaluierungen, adversarischen Tests, der Bewertung und Minderung systemischer Risiken sowie der Meldung schwerwiegender Vorfälle.
Dieser Rahmen betrifft direkt Entwickler fortschrittlicher KI-Systeme, wie Unternehmen wie OpenAI, Anthropic und Google DeepMind, die groß angelegte Modelle produzieren. Das Europäische Amt für künstliche Intelligenz, das im Februar 2024 eingerichtet wurde, überwacht die GPAI-Durchsetzung, einschließlich der Entwicklung von Verhaltenskodizes für die Einhaltung.
Durchsetzung und Governance
Das KI-Gesetz schafft eine mehrstufige Governance-Struktur. Die Europäische Kommission spielt über das Europäische Amt für künstliche Intelligenz eine zentrale Rolle bei der Überwachung von GPAI- und systemischen Risikomodellen. Ein Europäischer Ausschuss für künstliche Intelligenz, bestehend aus nationalen Aufsichtsbehörden, gewährleistet eine einheitliche Anwendung in den Mitgliedstaaten. Nationale Behörden sind für die Marktüberwachung und Durchsetzung anderer KI-Systeme verantwortlich.
Strafen für Nichteinhaltung sind erheblich: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken, 15 Millionen Euro oder 3 % für Verstöße gegen die meisten anderen Verpflichtungen und 7,5 Millionen Euro oder 1,5 % für die Bereitstellung falscher Informationen. Diese Geldbußen sollen Verstöße abschrecken und spiegeln den Durchsetzungsansatz der DSGVO wider.
Das Gesetz etabliert auch einen Mechanismus für regulatorische Sandboxen, der es öffentlichen Behörden ermöglicht, eine kontrollierte Umgebung für das Testen innovativer KI-Systeme vor der Bereitstellung bereitzustellen, um Innovation zu fördern und gleichzeitig die Einhaltung zu gewährleisten.
Globale Auswirkungen und Reaktionen
Die Abstimmung über das EU-KI-Gesetz wurde weithin als wegweisender Moment in der KI-Governance angesehen. Sie beeinflusste Gesetzgebungsbemühungen weltweit, einschließlich der US-Exekutivanordnung zur sicheren, geschützten und vertrauenswürdigen Entwicklung und Nutzung von KI (Oktober 2023) und des Rahmenübereinkommens des Europarats über KI (Mai 2024). Die Reaktionen der Industrie waren gemischt: Einige Unternehmen begrüßten regulatorische Klarheit, während andere Bedenken über Compliance-Kosten und eine mögliche Behinderung von Innovation äußerten. Organisationen der Zivilgesellschaft lobten das Gesetz allgemein für die Behandlung von Grundrechten, obwohl einige argumentierten, dass bestimmte Bestimmungen, wie Ausnahmen für Strafverfolgung, zu permissiv seien.
Akademiker und Forscher stellten fest, dass der risikobasierte Ansatz des Gesetzes als Modell für andere Regionen dienen könnte, hoben jedoch auch Herausforderungen bei der Umsetzung hervor, insbesondere hinsichtlich der dynamischen Natur von KI-Technologien und des Bedarfs an technischen Standards. Die extraterritoriale Reichweite des Gesetzes, die Anbieter und Bereitsteller außerhalb der EU betrifft, wenn ihre Systeme EU-Nutzer beeinflussen, erweitert seinen Einfluss global.
Umsetzungszeitplan
Der gestaffelte Umsetzungszeitplan des KI-Gesetzes soll es den Interessengruppen ermöglichen, sich anzupassen. Wichtige Daten umfassen:
- 1. August 2024: Inkrafttreten.
- 2. Februar 2025: Verbote für Praktiken mit inakzeptablem Risiko gelten.
- 2. August 2025: Verpflichtungen für GPAI-Modelle und Governance-Bestimmungen gelten.
- 2. August 2026: Vollständige Anwendung für Systeme mit hohem Risiko, die in Anhang III aufgeführt sind (z. B. Beschäftigung, Bildung, Strafverfolgung).
- 2. August 2027: Vollständige Anwendung für Systeme mit hohem Risiko, die in regulierte Produkte eingebettet sind.
Dieser gestaffelte Zeitplan zielt darauf ab, regulatorische Sicherheit mit praktischer Bereitschaft auszugleichen, und die Europäische Kommission ist beauftragt, Leitlinien und Standards zur Unterstützung der Einhaltung herauszugeben.
Bedeutung für die KI-Entwicklung
Die Abstimmung über das EU-KI-Gesetz stellt eine kollektive politische Entscheidung dar, die Entwicklung von Machine learning und verwandten Technologien zu gestalten. Durch die Festlegung klarer Grenzen zielt das Gesetz darauf ab, vertrauenswürdige KI zu fördern, Investitionen in konforme Systeme zu ermutigen und gleichzeitig Grundrechte zu schützen. Es schafft auch einen regulatorischen Maßstab, der globale Standards beeinflussen könnte, da international tätige Unternehmen sich möglicherweise an EU-Regeln anpassen, um Zugang zum Binnenmarkt zu erhalten.
Für Forscher und Entwickler führt das Gesetz neue Verantwortlichkeiten ein, wie die Dokumentation von Trainingsdaten und die Gewährleistung von Transparenz. Es wirft auch Fragen zur Zukunft der Neural network-Forschung auf, insbesondere in Bereichen wie Deep learning, wo sich Modellfähigkeiten schnell entwickeln. Die Bestimmungen des Gesetzes zu systemischem Risiko sind besonders relevant für Frontier-KI-Labore, die nun breitere gesellschaftliche Auswirkungen berücksichtigen müssen.
Zusammenfassend war die Abstimmung über das EU-KI-Gesetz nicht nur ein verfahrenstechnisches Ereignis, sondern ein grundlegender Moment in der Governance künstlicher Intelligenz mit weitreichenden Auswirkungen auf Technologie, Recht und Gesellschaft.