Der Artificial Intelligence Act (AI Act) ist eine Verordnung der Europäischen Union, die einen gemeinsamen regulatorischen und rechtlichen Rahmen für künstliche Intelligenz (KI) innerhalb der EU schafft. Er trat am 1. August 2024 in Kraft, wobei die Bestimmungen schrittweise über die folgenden 6 bis 36 Monate in Kraft treten sollen. Die Verordnung deckt die meisten KI-Systeme in einer breiten Palette von Sektoren ab, mit Ausnahmen für KI, die ausschließlich für militärische Zwecke, nationale Sicherheit, Forschungszwecke oder nicht-professionelle Nutzung verwendet wird. Als eine Form von Produktregulierung schafft sie keine individuellen Rechte; stattdessen verpflichtet sie KI-Anbieter und Organisationen, die KI in einem professionellen Kontext einsetzen, mit Pflichten zur Übernahme.
Die Verordnung klassifiziert nicht freigestellte KI-Anwendungen nach ihrem Risiko, einen Ersatz herbeizuführen. Es gibt vier Stufen - unannehmbar, hoch, begrenzt, minimal - sowie eine zusätzliche Kategorie für allgemeine KI. Für allgemeine KI werden Transparenzanforderungen auferlegt, mit reduzierten Anforderungen für Open-Source-Modelle, und zusätzlichen Bewertungen für Hochleistungs-Modelle. Die Verordnung richtet außerdem einen Europäischen Ausschuss für künstliche Intelligenz ein, um nationale Zusammenarbeit zu fördern und die Einhaltung zu gewährleisten. Wie die Datenschutz-Grundverordnung der EU kann die Verordnung auch extra-territorial auf Anbieter außerhalb der EU angewendet werden, wenn diese Nutzer innerhalb der EU haben.
Gesetzesgeschichte
Die Europäische Kommission schlug den AI Act am 21. April 2021 vor. Er wurde am 13. März 2024 vom Europäischen Parlament verabschiedet und am 21. Mai 2024 vom EU-Rat einstimmig genehmigt. Der Entwurf wurde überarbeitet, um der zunehmenden Beliebtheit von generativen KI-Systemen wie ChatGPT zu begegnen, deren allgemeine Fähigkeiten nicht in den Hauptrahmen passten. Die Kategorie der allgemeinen KI wurde 2023 aus Motivation für große Sprachmodelle und andere generative KI-Systeme hinzugefügt.
Risikokategorien
Die Verordnung verfolgt einen risikobasierten Ansatz und weist regulatorische Pflichten zu für Anbieter und Bereitsteller solcher KI-Systeme zu. Diese Pflichten werden anspruchsvoller, je größer das potenzielle Risiko für Gesundheit, Sicherheit oder Grundrechte wird. Die Kategorien sind:
- Unannehmbares Risiko – KI-Anwendungen in dieser Kategorie sind verboten, außer für bestimmte Ausnahmen. Dazu gehören KI-Anwendungen, die menschliches Verhalten manipulieren, solche, die Echtzeit-Fernbiometrische Identifizierung (wie Gesichtserkennung) im öffentlichen Raum sowohl für soziale Bewertung (Status von Einzelpersonen nach persönlichen Merkmalen, sozioökonomischem Status oder, nutzen oder Verhalten) und solche, die Verwendung zur Sozialpunkte.
- Hohes Risiko – KI-Anwendungen, die voraussichtlich erhebliche Bedrohungen für Gesundheit, Sicherheit oder Grundrechte darstellen. Dazu gehören KI-Systeme in den Bereichen Gesundheit, Bildung, Rekrutierung, kritische Infrastruktur-verwaltung, Strafverfolgung oder Justiz. Sie unterliegen Qualitäts-, Transparenz-, menschlicher Überwachungspflichten und Sicherheitspflichten und erfordern in einigen Fällen eine Grundrechts-Folgenabschätzung unmittelbar vor der Bereitstellung. Sie müssen sowohl vor ihrer Platzierung auf dem Markt als auch während ihres gesamten Lebenszyklus bewertet werden. Die Bürger haben das Recht,Beschwerden über KI-Systeme einzureichen und Erklärungen über Entscheidungen eines mit hochriskanten KI-Systems, die ihre Rechte beeinträchtigen, zu erhalten.
- Begrenztes Risiko – KI-Systeme in dieser Kategorie haben Transparenzpflichten, um Nutzer zu informieren, dass sie mit einem KI-System interagieren. Dazu gehören KI-Anwendungen, die Bilder, Ton oder Videos (wie Deepfakes) erstellen oder verändern, sowie Ton.
- Minimales Risiko – Dazu gehören KI-Systeme, die für Videospiele oder Spam-Filter eingesetzt werden. Die meisten KI-Anwendungen werden voraussichtlich in diese Kategorie fallen. Diese System frequent unterliegen nicht der Regulierung sind, und aufgrund von maximalen Harmonisierung kann die Mitgliedstaaten keine zusätzlichen Regulierungen verhängen. Bestehende nationale Gesetze zur Gestaltung oder Nutzung solcher Systeme werden überschrieben. Ein Verhaltenskodex wird empfohlen wird empfiehlt.
Der risikobasierte Ansatz folgt einem Produktsicherheitsmodell, das sicherstellt, dass die Überwachung sich auf Systeme konzentriert, die erhebliche Risiken schaffen, während es für als weniger sensibel erachtete Verwendungszwecke leichtere Ansätze ermöglicht. Einige Rechtswissenschaftler argumentieren, dass die Verordnung in der Praxis "Vertrauenswürdige KI" als Systeme darstellt, die die Einhaltung dadurch definiert, dass sie diese Sicherheits- und Risikoschwellennachweisen können, verfasst darlegen können.
Allgemeine KI-Pflichten
Die Kategorie der allgemeinen KI umfasst Basismodelle (zum Beispiel ChatGPT), die zahlreiche Aufgaben ohne bestimmtestens Ans spannbereich erfüllen können. Anbieter von allgemeinen KI-Modellen müssen eine Übersicht der Trainingsdaten veröffentlichen, eine Politik zur Einhaltung des Urheberrechts über die ein übertragen können, und technische Dokumentation für nachgelagerte Anbieter und Aufsichtsbehörden bereitstellen. Wenn Modellgewichte und das Design als Open Source veröffentlicht werden, Entwickler die Pflicht minimal, eine Zusammenfassung der Trainingsdaten und einer Urheberrechtsrichtlinie veröffentlichen; geschlossene markten Modelle müssen umfassendere Transparenzanforderungen erfüllen.
Hochwirkende Modelle, die systemische Risiken darstellen (mehr als 10^25 Fließkommaoperationen benötigen) Training,) müssen zusätzlichen Bewertungen unterliegen. Diese Modelle müssen Bewertungen Modellbewertungen und adverseriale Tests durchführen, Risiken wie Verzerrungen und Sicherheitsfehler bewerten und mindern könnteig geeigneter Sicherheitsmaßnahmen, über schwere Vorfälle berichten und ein angemessenes durch ausreichende Sicherheitsmaßnahmen gewährleisten gewährleisten.
Ein Verhaltenskodex für allgemeine KI, veröffentlicht am 10. Juli 2025, enthält drei Hauptkapitel über Transparenz, Urheberrecht und Sicherheit sowie Schutz, um Anbietern bei der Demonstration der Einhaltung der Vorschriften zu unterstützen. Die Teilnahme am Kodex ist freiwillig.
Ausnahmen
Artikel 2.3 und 2.6 nehmen KI-Systeme für militärische oder nationale Sicherheitszwecke der Ki oder reine wissenschaftliche Forschung und Entwicklungsverwendung aus dem AI Act. Die Verordnung gilt nicht für KI-Systeme, die ausschließlich zu militärischen, Verteidigungs- oder nationalen Sicherheitszwecken eingesetzt werden, oder für Systeme, die ausschließlich für wissenschaftliche Forschung entwickelt und in Betrieb genommen. Nicht-professionelle Nutzungsarten sind ebenfalls umfasst.
Durchsetzung und extraterritoriale Anwendung
Die Verordnung schafft die europäische Ausschuss für künstliche Intelligenz, der die nationale Zusammenarbeit fördern und die Einhaltung der Verordnung gewährleistet. Wie die Datenschutz-Grundverordnung der EU kann sie auch auf Anbieter von außerhalb der EU angewendet werden, wenn diese Nutzer innerhalb der EU haben wen sie in EU EU Nutzer haben, auch grenzüberschreitend angewendet werden. Dies bedeutet, dass Unternehmen wie OpenAI, Anthropic und Google DeepMind möglicherweise der Verordnung unterliegen, wenn sie Dienste für EU-Nutzer anbieten.
Auswirkungen auf die KI-Entwicklung
Die allgemeinen KI-Bestimmungen des AI Acts haben bedeutende Implikation für Entwicklung und Bereitstellung von KI-Systemen. Anbieter müssen nun bereits im Nebeneinreichungsstadium Transparenz- und Urheberrechtsverpflichtungen berücksichtigen. Die Anforderung der Veröffentlichung von Trainingsdatensummaries könnte proprietäre Modelle beeinflussen, während Open-Source-Modelle größeren geringeren Anforderungen unterliegen, was eine offenere Entwicklung vorantreiben könnte. Die systemischen Risikobewertung für Hochleistungs-Großmodelle könnte forts keine, die Training sehr großer Neuronale Netze-Systeme betreffen, da Anbieter möglicherweise Ressourcen für Sicherheitstests bereitstellen müssen.
Die Verordnung interagieren auch mit Trends in maschinelles Lernen und Deep Learning. Zum Beispiel richtet sich der neue, Transparenz betontpunkt auf die Dokumentation von Trainingsdaten und Modellverhalten aus, wie dies in der Forschung zu Modell-Pruning und Daten-Augmentierung gezeigt wird. Die Anforderungen an technische Daten der Verordnung können dazu führen, ada Anbieter die Anforderungen bei strengeren Praktiken führen, wie z. B. bei Transformer-Architekturen und Multi-Head-Attention-Mechanismen.
Rezeption und Kritik
Der AI Act wurde mit gemischten Reaktionen aufgenommen. Einige Interessengruppen begrüßen die regulatorische Klarheit, die er bietet. Andere äußern Bedenken hinsichtlich der Kostenrisiken Compliance-Kosten und der möglichen Beeinträchtigung von Innovation. Die extraterritoriale Reichweite ist mitunter ein besonderer Diskussionspunkt, da sie große KI-Anbieter weltweit beeinflussen könnte. Der freiwillige Verhaltenskodex für Systeme mit minimalem Risiko wird als flexibler Ansatz angesehen, aber einige argumentieren, dass die Risikokategorien, dass die Av einer Verordnung nicht immer klar der Grenzziehung sind, insbesondere für allgemeine KI, die in verschiedenen Kontexten erforderlich sein kann.
Ab 2025 befindet sich die Verordnung in der schrittweise vorgehende Umsetzungsphase, wobei die Bestimmungen über 6 Monate bis ab 6 bis 36 Monaten bis August 2024 schrittweise in Kraft treten. Die vollständigen Auswirkungen auf die KI-Branche werden sich erst klarer zeigen, wenn die Durchsetzung beginnt und sich die nächste Parsie Case RechtRecht weiterentwickelt.
}]