Der EU AI Act GPAI Code of Practice ist ein freiwilliger Governance-Rahmen, der im Rahmen des Gesetzes über künstliche Intelligenz der Europäischen Union (AI Act) entwickelt wurde. Er bietet Anbietern von Modellen der allgemeinen künstlichen Intelligenz (GPAI), einschließlich großer Sprachmodelle und anderer Basismodelle, detaillierte Leitlinien zur Erfüllung der im AI Act festgelegten regulatorischen Verpflichtungen. Der Kodex wurde 2025 nach einem Multi-Stakeholder-Entwurfsprozess finalisiert und zielt darauf ab, hochrangige rechtliche Anforderungen in konkrete, umsetzbare Praktiken für Transparenz, Urheberrechtskonformität und Management systemischer Risiken zu übersetzen.
Der Kodex ist selbst nicht rechtsverbindlich, aber die Einhaltung gilt als Nachweis der Konformität mit den Anforderungen des AI Act für GPAI-Modelle. Er wurde vom AI Office, der EU-Behörde, die für die Regulierung von GPAI zuständig ist, in Zusammenarbeit mit unabhängigen Experten, Branchenvertretern und der Zivilgesellschaft entwickelt. Die endgültige Fassung wurde im Juli 2025 veröffentlicht, nachdem eine öffentliche Konsultation über 430 Stellungnahmen von Unternehmen, Forschern und Interessenvertretungen eingebracht hatte.
Hintergrund und rechtlicher Kontext
Das EU-Gesetz über künstliche Intelligenz, das im August 2024 angenommen wurde, trat am 1. August 2024 in Kraft, wobei die meisten Bestimmungen schrittweise Anwendung finden. GPAI-Modelle, definiert als KI-Modelle, die mit großen Datenmengen trainiert wurden und eine breite Palette von Aufgaben ausführen können, unterliegen spezifischen Verpflichtungen gemäß Kapitel V des Gesetzes. Diese Verpflichtungen umfassen die Bereitstellung technischer Dokumentation, die Veröffentlichung einer Zusammenfassung der Trainingsinhalte und die Umsetzung von Richtlinien zur Einhaltung des EU-Urheberrechts.
Für GPAI-Modelle mit systemischem Risiko - definiert als solche mit einer kumulativen Rechenleistung von mehr als 10^25 Gleitkommaoperationen (FLOPs) - gelten zusätzliche Anforderungen, wie die Durchführung von Modellevaluierungen und adversarischen Tests. Das KI-Gesetz schreibt vor, dass das AI Office die Erstellung von Verhaltenskodizes erleichtert, um zu detaillieren, wie diese Verpflichtungen erfüllt werden können. Der GPAI Code of Practice ist das primäre Instrument für diesen Zweck.
Entwurfsprozess und Zeitplan
Der Entwurfsprozess begann im September 2024, als das AI Office eine Konsultation startete, um Input zu Umfang und Inhalt des Kodex zu sammeln. Im November 2024 ernannte das AI Office vier unabhängige Vorsitzende: Yoshua Bengio, einen Turing-Award-Gewinner und Pionier des Deep Learning; Marietje Schaake, ehemaliges Mitglied des Europäischen Parlaments; Alexander Peukert, Professor für Urheberrecht; und Anja Feldner, Expertin für Digitalpolitik. Diese Vorsitzenden leiteten Arbeitsgruppen zu den Themen Transparenz, Urheberrecht und systemisches Risiko.
Es wurden vier Arbeitsgruppen eingerichtet, die sich jeweils mit einem spezifischen Bereich befassten: Transparenz- und urheberrechtsbezogene Bestimmungen, Identifizierung und Bewertung systemischer Risiken, technische Risikominderung sowie Governance und Überprüfung. Jede Gruppe umfasste Vertreter großer KI-Entwickler wie OpenAI, Anthropic, Google DeepMind und Microsoft (AI) sowie europäische Start-ups, Open-Source-Gemeinschaften und Organisationen der Zivilgesellschaft. Die Gruppen trafen sich von Januar bis April 2025 regelmäßig und erstellten aufeinanderfolgende Entwürfe.
Ein erster Entwurf wurde im Februar 2025 veröffentlicht, gefolgt von einem zweiten Entwurf im April 2025. Das AI Office führte eine öffentliche Konsultation zum zweiten Entwurf durch und erhielt Feedback von über 430 Interessengruppen. Die endgültige Fassung, die Überarbeitungen zu Themen wie Urheberrechts-Opt-outs und Schwellenwerten für systemische Risiken einarbeitete, wurde am 10. Juli 2025 angenommen.
Wichtige Bestimmungen: Transparenz und Urheberrecht
Das Transparenzkapitel des Kodex verlangt von GPAI-Modellanbietern, detaillierte technische Dokumentationen zu führen, einschließlich Modellarchitektur, Trainingsdatenquellen und verwendeter Rechenressourcen. Anbieter müssen außerdem eine ausreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen, wie es das KI-Gesetz vorschreibt. Der Kodex legt fest, dass diese Zusammenfassung so strukturiert sein sollte, dass Rechteinhaber erkennen können, ob ihre Werke verwendet wurden, ohne jedoch geschäftliche Betriebsgeheimnisse preiszugeben.
In Bezug auf das Urheberrecht schreibt der Kodex vor, dass Anbieter eine Richtlinie zur Einhaltung der EU-Richtlinie über das Urheberrecht im digitalen Binnenmarkt (2019/790) umsetzen, einschließlich der Ausnahme für Text- und Data-Mining und des Opt-out-Mechanismus. Anbieter müssen angemessene Anstrengungen unternehmen, um sicherzustellen, dass Trainingsdaten keine Werke enthalten, bei denen Rechteinhaber ihre Rechte ausdrücklich durch maschinenlesbare Mittel vorbehalten haben. Der Kodex fördert auch die Verwendung technischer Werkzeuge wie robots.txt und Inhaltsregister, um Opt-outs zu erleichtern.
Für Anbieter, die Web-Scraping-Daten verwenden, verlangt der Kodex, dass sie ein Verzeichnis der Quellen führen und auf Anfragen von Rechteinhabern zeitnah reagieren. Er empfiehlt außerdem die Einführung eines Standards der 'besten Bemühungen' für das Herausfiltern von Opt-out-Inhalten, wobei anerkannt wird, dass eine vollständige Einhaltung technisch anspruchsvoll ist. Die endgültige Fassung milderte frühere Vorschläge für eine verpflichtende Filterung ab, was Bedenken der Branche hinsichtlich der Machbarkeit widerspiegelt.
Management systemischer Risiken
Das Kapitel zu systemischen Risiken gilt für GPAI-Modelle mit einer kumulativen Trainingsrechenleistung von mehr als 10^25 FLOPs, einem vom KI-Gesetz festgelegten Schwellenwert. Ab 2025 umfasst dies Modelle wie GPT-4 und GPT-5 von OpenAI, Claude 3 von Anthropic und Gemini Ultra von Google. Der Kodex verlangt von diesen Anbietern, rigorose Modellevaluierungen durchzuführen, einschließlich Red-Teaming und adversarischer Tests, um potenzielle Schäden wie Cyber-Offensivfähigkeiten, biologische Bedrohungserstellung und Kontrollverlust zu identifizieren.
Anbieter müssen ein Risikomanagementsystem implementieren, das einen Risikobewertungsrahmen, Minderungsmaßnahmen und Protokolle zur Meldung von Vorfällen umfasst. Der Kodex legt fest, dass Evaluierungen, wo möglich, von unabhängigen Dritten durchgeführt und die Ergebnisse mit dem AI Office geteilt werden sollten. Er verlangt außerdem, dass Anbieter auf neu entstehende Fähigkeiten achten, die das Risiko nach der Bereitstellung erhöhen könnten.
Eine bemerkenswerte Bestimmung ist die Anforderung an Anbieter, einen 'Plan zur Minderung systemischer Risiken' zu erstellen, der mindestens jährlich aktualisiert wird. Dieser Plan muss Risiken im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen (CBRN) Bedrohungen sowie Cyberangriffen und Manipulation adressieren. Der Kodex fördert die Zusammenarbeit mit BAIR (Berkeley AI Research) und anderen akademischen Einrichtungen zur Entwicklung von Evaluierungs-Benchmarks.
Governance- und Compliance-Mechanismen
Der Kodex etabliert eine Governance-Struktur unter dem AI Office, das die Einhaltung durch eine Kombination aus Selbsteinschätzung und Audits überwacht. Anbieter müssen jährliche Compliance-Berichte einreichen, und das AI Office kann gezielte Überprüfungen als Reaktion auf Beschwerden oder neu auftretende Risiken durchführen. Der Kodex schafft außerdem ein 'GPAI Code of Practice Panel', das aus unabhängigen Experten besteht und zu Auslegung und Aktualisierungen berät.
Für Open-Source-Modelle enthält der Kodex einen speziellen Abschnitt, der einige Dokumentationsanforderungen lockert, wobei die unterschiedlichen Risikoprofile offen veröffentlichter Gewichte anerkannt werden. Open-Source-Anbieter müssen jedoch weiterhin die Urheberrechtsverpflichtungen und die Bestimmungen zu systemischen Risiken einhalten, wenn ihre Modelle den Rechenleistungsschwellenwert überschreiten. Der Kodex fördert die Verwendung von Modellkarten und Datenblättern, eine Praxis, die von MIT CSAIL und anderen Forschungsgruppen populär gemacht wurde.
Die Nichteinhaltung des Kodex löst nicht automatisch Sanktionen aus, verlagert jedoch die Beweislast auf den Anbieter, alternative Mittel der Konformität nachzuweisen. Das KI-Gesetz sieht Geldbußen von bis zu 3% des weltweiten Jahresumsatzes für Verstöße gegen GPAI-Verpflichtungen vor, die anwendbar sein könnten, wenn ein Anbieter die zugrunde liegenden gesetzlichen Anforderungen nicht erfüllt.
Branchenreaktionen und Übernahme
Große KI-Unternehmen haben vorsichtige Unterstützung für den Kodex geäußert, obwohl einige Bedenken hinsichtlich des Verwaltungsaufwands und der Machbarkeit bestimmter Urheberrechtsmaßnahmen äußerten. OpenAI und Anthropic gaben beide Erklärungen ab, die die durch den Kodex gebotene Klarheit begrüßten, während sie anmerkten, dass einige Bestimmungen weitere technische Entwicklungen erfordern. Google DeepMind betonte die Bedeutung internationaler Abstimmung, da der Kodex Regulierungen in anderen Rechtsordnungen beeinflussen könnte.
Europäische Start-ups wie Mistral AI und Aleph Alpha waren kritischer und argumentierten, dass die Dokumentationsanforderungen des Kodex kleinere Akteure benachteiligen könnten. Die Open-Source-Gemeinschaft, vertreten durch Gruppen wie Hugging Face, begrüßte die gelockerten Bestimmungen für offene Modelle, forderte jedoch explizitere Leitlinien dazu, was eine 'ausreichend detaillierte' Zusammenfassung der Trainingsdaten ausmacht.
Organisationen der Zivilgesellschaft, darunter Access Now und European Digital Rights (EDRi), lobten die Betonung der Transparenz im Kodex, forderten jedoch stärkere Durchsetzungsmechanismen. Sie merkten an, dass der freiwillige Charakter des Kodex bedeutet, dass Anbieter ihn ignorieren könnten, und riefen das AI Office dazu auf, proaktive Audits durchzuführen, anstatt sich auf Selbstberichterstattung zu verlassen.
Beziehung zu anderen Vorschriften und Standards
Der GPAI Code of Practice ist darauf ausgelegt, andere EU-Instrumente zu ergänzen, einschließlich des Gesetzes über digitale Dienste und der Datenschutz-Grundverordnung (DSGVO). Er steht auch im Einklang mit internationalen Initiativen wie den OECD-KI-Prinzipien und dem Rahmenübereinkommen des Europarats über KI. Der Kodex verweist auf technische Standards, die von CEN-CENELEC, den europäischen Normungsorganisationen, entwickelt werden und spezifischere Spezifikationen liefern werden.
Der Ansatz des Kodex zu systemischen Risiken stützt sich auf Methoden aus der Deep learning-Forschung, einschließlich Red-Teaming-Praktiken, die in Sicherheitsbewertungen von Neural network verwendet werden. Er integriert auch Erkenntnisse aus der Reinforcement Learning from AI Feedback (RLAIF)-Literatur (Verstärkungslernen aus KI-Feedback), die informiert hat, wie Anbieter Modelle an Sicherheitsrichtlinien ausrichten können. Der Kodex ermutigt Anbieter, Evaluierungsergebnisse mit der Forschungsgemeinschaft zu teilen und fördert so eine Kultur der Transparenz.
Zukünftige Überarbeitungen und Auswirkungen
Der Kodex ist als lebendes Dokument konzipiert, mit einem Überprüfungszyklus alle zwei Jahre. Die erste Überprüfung ist für 2027 geplant, zu diesem Zeitpunkt wird das AI Office bewerten, ob der Kodex Risiken wirksam reduziert hat und ob Schwellenwerte angepasst werden müssen. Die Bestimmungen des Kodex zu Urheberrecht und systemischen Risiken werden sich wahrscheinlich weiterentwickeln, wenn sich technische Fähigkeiten und rechtliche Auslegungen entwickeln.
Stand Ende 2025 hat der Kodex bereits Unternehmenspraktiken beeinflusst. Mehrere Anbieter, darunter OpenAI und Anthropic, haben erste Compliance-Berichte veröffentlicht und ihre Modelldokumentation an die Vorlagen des Kodex angepasst. Der Kodex diente auch als Referenz für andere Rechtsordnungen, darunter Kanada und Japan, die ähnliche Rahmenwerke für Basismodelle entwickeln.
Die langfristige Wirkung des Kodex wird von der Durchsetzungsstrategie des AI Office und der Bereitschaft der Anbieter abhängen, konstruktiv mitzuwirken. Obwohl der Kodex freiwillig ist, schaffen seine detaillierten Spezifikationen einen starken Anreiz zur Einhaltung, da eine Abweichung von einem Anbieter verlangen würde, alternative Maßnahmen zu rechtfertigen. Diese Dynamik hat einige Beobachter dazu veranlasst, den Kodex als 'weiches Recht mit harten Kanten' zu beschreiben, was sein Potenzial widerspiegelt, das Verhalten der KI-Branche trotz seines nicht bindenden Charakters zu formen.