Die Governance-Struktur des EU-KI-Gesetzes bezieht sich auf den mehrschichtigen institutionellen Rahmen, der zur Umsetzung und Durchsetzung des Gesetzes über künstliche Intelligenz der Europäischen Union (Verordnung (EU) 2024/1689) eingerichtet wurde. Diese Struktur wurde ab 2024 schrittweise operativ, mit dem Europäischen KI-Büro als Zentrum, unterstützt durch nationale zuständige Behörden, den Europäischen Ausschuss für künstliche Intelligenz und beratende Gremien. Das Governance-Design zielt darauf ab, eine einheitliche Anwendung risikobasierter Regeln für Systeme der künstlichen Intelligenz in allen EU-Mitgliedstaaten sicherzustellen.
Der Governance-Rahmen wurde formell eingeführt, als das KI-Gesetz am 1. August 2024 in Kraft trat. Die Europäische Kommission richtete das Europäische KI-Büro am 29. Januar 2024 ein, vor der endgültigen Annahme der Verordnung, um die Umsetzung vorzubereiten. Die volle operative Kapazität der Struktur wird schrittweise aufgebaut, wobei zentrale Bestimmungen ab dem 2. Februar 2025 für verbotene Praktiken und allgemeine Verpflichtungen ab dem 2. August 2026 gelten.
Europäisches KI-Büro
Das Europäische KI-Büro arbeitet innerhalb der Generaldirektion Kommunikationsnetze, Inhalte und Technologien (GD CONNECT) der Europäischen Kommission. Es dient als zentrale Koordinierungsstelle für die Umsetzung des KI-Gesetzes. Das Büro überwacht die Wirksamkeit der Verordnung, unterstützt die Entwicklung von Verhaltenskodizes und beaufsichtigt die Umsetzung der Verpflichtungen für allgemeine KI-Modelle.
Sein Personal umfasst etwa 100 Beamte, darunter Technologiespezialisten, Juristen und Politikexperten. Das Büro verwaltet die KI-Regulierungs-Sandboxen der EU, die es Unternehmen ermöglichen, KI-Systeme unter regulatorischer Aufsicht zu testen. Es koordiniert außerdem mit der Gemeinsamen Forschungsstelle für technische Bewertungen und mit sektoralen Regulierungsbehörden wie dem Europäischen Datenschutzbeauftragten.
Das Büro ist für die Durchsetzung der Regeln für allgemeine KI-Modelle verantwortlich, einschließlich Systemen großer Sprachmodelle. Es kann Untersuchungen einleiten, Informationen von Anbietern anfordern und bei Nichteinhaltung Geldbußen verhängen. Bei systemischen Risiken arbeitet das Büro mit dem Europäischen Ausschuss für künstliche Intelligenz zusammen, um Modelle zu benennen, die erhebliche Risiken darstellen.
Nationale zuständige Behörden
Jeder EU-Mitgliedstaat muss bis zum 2. August 2025 mindestens eine nationale zuständige Behörde und eine Marktüberwachungsbehörde benennen. Diese Behörden sind für die Durchsetzung des KI-Gesetzes in ihren Hoheitsgebieten verantwortlich. Sie führen Konformitätsbewertungen durch, bearbeiten Beschwerden und verhängen Sanktionen bei Verstößen.
Die Struktur der nationalen Behörden variiert zwischen den Mitgliedstaaten. Einige Länder, wie Deutschland, haben mehrere Behörden für verschiedene Sektoren benannt, während andere spezielle KI-Regulierungsbehörden geschaffen haben. Die Behörden müssen über den Europäischen Ausschuss für künstliche Intelligenz zusammenarbeiten, um eine einheitliche Auslegung und Durchsetzung sicherzustellen.
Marktüberwachungsbehörden haben die Befugnis, von Anbietern Korrekturmaßnahmen zu verlangen, KI-Systeme vom Markt zu nehmen oder deren Nutzung einzuschränken. Sie können auch Verwaltungsgeldbußen verhängen, die bei schwerwiegenden Verstößen bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen können.
Europäischer Ausschuss für künstliche Intelligenz
Der Europäische Ausschuss für künstliche Intelligenz wurde am 2. August 2024 eingerichtet. Er besteht aus einem Vertreter jedes Mitgliedstaats und dem Europäischen Datenschutzbeauftragten. Das Europäische KI-Büro stellt sein Sekretariat. Der Ausschuss berät die Kommission in Umsetzungsfragen und erleichtert die Zusammenarbeit zwischen den nationalen Behörden.
Der Ausschuss gibt Stellungnahmen und Empfehlungen zu technischen Normen, Konformitätsbewertungsverfahren und neu auftretenden Risiken ab. Er trägt auch zur Entwicklung harmonisierter Normen bei, auf die im KI-Gesetz Bezug genommen wird. Seine Entscheidungen sind rechtlich nicht bindend, haben aber erhebliches Gewicht bei der Leitlinie für die nationale Durchsetzung.
Der Ausschuss tagt regelmäßig in Brüssel und unterhält Arbeitsgruppen zu spezifischen Themen wie biometrischer Identifizierung, Einstufung von Hochrisiko-KI und Transparenzpflichten. Er koordiniert außerdem mit dem Europäischen Datenschutzausschuss in Datenschutzfragen.
Beratende Gremien und Einbindung von Interessenträgern
Die Governance-Struktur umfasst das Europäische Beratungsforum für künstliche Intelligenz, das sich aus Vertretern von Industrie, Wissenschaft, Zivilgesellschaft und Berufsorganisationen zusammensetzt. Das Forum bietet technisches Fachwissen und Rückmeldungen zu Umsetzungsherausforderungen. Es wurde 2024 eingerichtet und tagt mindestens zweimal jährlich.
Das Wissenschaftliche Gremium unabhängiger Experten unterstützt das KI-Büro und die nationalen Behörden. Dieses Gremium, das Anfang 2025 eingerichtet wurde, bietet wissenschaftliche und technische Beratung zur KI-Sicherheit, einschließlich Bewertungen allgemeiner Modelle. Seine Mitglieder werden basierend auf Fachwissen in maschinellem Lernen, Computer Vision und anderen relevanten Bereichen ausgewählt.
Das KI-Gesetz schafft auch einen Mechanismus zur Konsultation von Interessenträgern durch öffentliche Konsultationen und Workshops. Die Kommission holt regelmäßig Input zu delegierten Rechtsakten, Durchführungsrechtsakten und Leitliniendokumenten ein. Dies umfasst Konsultationen zur Verbotsliste, Hochrisikokriterien und Transparenzanforderungen.
Durchsetzungsmechanismen und Sanktionen
Die Governance-Struktur etabliert ein abgestuftes Durchsetzungssystem. Für verbotene KI-Praktiken können Geldbußen bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen. Bei Verstößen gegen andere Verpflichtungen liegen die Geldbußen bei bis zu 15 Millionen Euro oder 3 % des Umsatzes. Bei Übermittlung falscher Informationen betragen die Geldbußen bis zu 7,5 Millionen Euro oder 1 % des Umsatzes.
Für allgemeine KI-Modelle kann das Europäische KI-Büro Geldbußen bis zu 3 % des globalen Jahresumsatzes bei Nichteinhaltung der Transparenz- und Urheberrechtsverpflichtungen verhängen. Bei Versäumnissen in Bezug auf systemische Risiken können die Geldbußen bis zu 5 % des Umsatzes erreichen. Das Büro kann auch Warnungen aussprechen und Korrekturmaßnahmen verlangen.
Nationale Behörden müssen Durchsetzungsmaßnahmen der Kommission über ein Informationssystem melden. Die Kommission führt ein öffentliches Register von Hochrisiko-KI-Systemen, die einer Konformitätsbewertung unterzogen wurden. Dieser Transparenzmechanismus ermöglicht es Interessenträgern, die Einhaltung zu verfolgen.
Koordination mit bestehenden Regulierungsrahmen
Die Governance-Struktur ist auf bestehende EU-Regulierungsbehörden abgestimmt. Der Europäische Datenschutzausschuss und nationale Datenschutzbehörden behandeln Überschneidungen zwischen dem KI-Gesetz und der Datenschutz-Grundverordnung. Die Europäische Arzneimittel-Agentur und andere sektorale Regulierungsbehörden koordinieren die KI-Nutzung in regulierten Produkten.
Das KI-Gesetz interagiert auch mit der Produkthaftungsrichtlinie und sektorspezifischen Rechtsvorschriften wie der Verordnung über Medizinprodukte. Der Governance-Rahmen umfasst Mechanismen zur Lösung von Zuständigkeitsfragen, etwa welche Behörde führt, wenn ein KI-System in mehreren Sektoren eingesetzt wird.
Das Europäische KI-Büro unterhält eine gemeinsame Einheit mit dem Europäischen Datenschutzbeauftragten, um Datenschutzfragen zu behandeln, die sich aus der KI-Bereitstellung ergeben. Diese Einheit bietet Leitlinien zur rechtmäßigen Datenverarbeitung für KI-Training und Inferenz.
Umsetzungszeitplan und Übergang
Die Governance-Struktur wird in Phasen umgesetzt. Bis zum 2. August 2025 müssen die Mitgliedstaaten nationale Behörden operativ haben und der Ausschuss voll funktionsfähig sein. Ab dem 2. August 2026 gelten die Verpflichtungen für Hochrisiko-KI-Systeme, mit einigen Ausnahmen für Produkte, die bereits durch sektorale Rechtsvorschriften abgedeckt sind.
Bis zum 2. August 2027 gilt der vollständige Governance-Rahmen für alle Hochrisikosysteme, einschließlich solcher, die in regulierte Produkte eingebettet sind. Die Kommission muss das Funktionieren des KI-Gesetzes bis zum 2. August 2028 überprüfen und dabei technologische Entwicklungen wie generative KI und Fortschritte bei neuronalen Netzen berücksichtigen.
Das Europäische KI-Büro veröffentlicht Leitliniendokumente und unterhält einen FAQ-Bereich auf seiner Website. Es führt auch Schulungsprogramme für Personal nationaler Behörden durch. Die Governance-Struktur ist darauf ausgelegt, anpassungsfähig zu sein und Aktualisierungen durch delegierte Rechtsakte zu ermöglichen, während sich die Technologie weiterentwickelt.
Der Rahmen wurde von einigen Industriegruppen wegen Komplexität und Verwaltungsaufwand kritisiert. Die Kommission argumentiert jedoch, dass die Struktur Rechtssicherheit bietet und vertrauenswürdige KI-Entwicklung fördert. Das Governance-Modell wird von anderen Rechtsordnungen, darunter Japan und Kanada, als Referenz für KI-Regulierung untersucht.