## Datum der Verbote im EU-KI-Gesetz

Das Datum der Verbote des EU-KI-Gesetzes, der 2. Februar 2025, ist das Datum, an dem die Verbote gemäß dem Gesetz über künstliche Intelligenz (KI-Gesetz) der Europäischen Union in Kraft traten. Das KI-Gesetz, das am 1. August 2024 in Kraft trat, schafft einen risikobasierten Regulierungsrahmen für KI-Systeme in der EU. Die Verbote richten sich gegen KI-Anwendungen, die als „inakzeptables Risiko“ eingestuft werden, und verbannen sie vom EU-Markt sowie von der Nutzung durch EU-Anbieter oder -Bereitsteller, mit begrenzten Ausnahmen. Dieses Datum ist der erste von mehreren gestaffelten Compliance-Fristen unter der Verordnung, die Verpflichtungen über 6 bis 36 Monate nach Inkrafttreten phasenweise einführt.

Das KI-Gesetz wurde am 21. April 2021 von der Europäischen Kommission vorgeschlagen, am 13. März 2024 vom Europäischen Parlament verabschiedet und am 21. Mai 2024 vom EU-Rat einstimmig genehmigt. Der endgültige Text wurde überarbeitet, um den Aufstieg generativer KI-Systeme wie große Sprachmodelle und generative KI zu berücksichtigen, deren Allgemeinzweck-Fähigkeiten nicht in die ursprünglichen Risikokategorien passten. Die Verordnung gilt extraterritorial, was bedeutet, dass Anbieter außerhalb der EU konform sein müssen, wenn sie KI-Dienste für Nutzer innerhalb der EU anbieten, ähnlich wie bei der Datenschutz-Grundverordnung.

Verbotene Praktiken

Das KI-Gesetz verbietet KI-Systeme, die als inakzeptable Risiken für Sicherheit, Lebensgrundlagen und Grundrechte gelten. Dazu gehören:

• Manipulative und ausbeuterische Systeme: KI, die unterschwellige, manipulative oder täuschende Techniken einsetzt, um Verhalten zu verzerren und informierte Entscheidungsfindung zu beeinträchtigen, was erheblichen Schaden verursacht.
• Ausnutzung von Schwachstellen: KI, die Schwachstellen von Einzelpersonen oder Gruppen aufgrund von Alter, Behinderung oder sozioökonomischer Situation ausnutzt, um Verhalten materiell zu verzerren.
• Soziales Scoring: KI, die zur Bewertung oder Klassifizierung von Personen auf der Grundlage von sozialem Verhalten, persönlichen Merkmalen oder vorhergesagtem Verhalten verwendet wird, was zu nachteiliger Behandlung in Kontexten führt, die nichts mit den ursprünglichen Daten zu tun haben, oder unverhältnismäßig zur Schwere des Verhaltens ist.
• Echtzeit-Fernbiometrie: KI-Systeme, die Echtzeit-Biometrie (z. B. Gesichtserkennung) in öffentlich zugänglichen Räumen für die Strafverfolgung verwenden, außer in eng definierten Situationen wie der Suche nach vermissten Personen oder der Verhinderung spezifischer terroristischer Bedrohungen.
• Predictive Policing auf Basis von Profiling: KI, die Straftaten oder Ordnungswidrigkeiten ausschließlich auf der Grundlage von Profiling oder Persönlichkeitsmerkmalen vorhersagt, es sei denn, sie unterstützt die menschliche Bewertung mit objektiven und verifizierbaren Fakten.
• Ungezieltes Scraping von Gesichtsbildern: KI, die Gesichtsbilder aus dem Internet oder von CCTV-Aufnahmen scrapt, um Gesichtserkennungsdatenbanken zu erstellen oder zu erweitern.
• Emotionserkennung in bestimmten Kontexten: KI, die zur Ableitung von Emotionen an Arbeitsplätzen und in Bildungseinrichtungen verwendet wird, außer aus medizinischen oder sicherheitsrelevanten Gründen.
• Biometrische Kategorisierung für sensible Merkmale: KI, die Personen auf der Grundlage biometrischer Daten kategorisiert, um Rasse, politische Meinungen, religiöse Überzeugungen oder sexuelle Orientierung abzuleiten.

Diese Verbote sind absolut, ohne Möglichkeit der Abweichung, außer für spezifische Ausnahmen für die Strafverfolgung im Fall der Echtzeit-Biometrie, vorbehaltlich einer vorherigen gerichtlichen Genehmigung und strenger zeitlicher und geografischer Grenzen.

Ausnahmen

Artikel 2.3 und 2.6 des KI-Gesetzes befreien KI-Systeme, die ausschließlich für militärische, Verteidigungs- oder nationale Sicherheitszwecke verwendet werden, sowie Systeme für reine wissenschaftliche Forschung und Entwicklung. Die Verordnung gilt nicht für KI-Systeme, die für militärische Zwecke auf den Markt gebracht werden, oder für solche, die im Kontext der nationalen Sicherheit verwendet werden, unabhängig vom Standort des Anbieters. Forschungsaktivitäten, die nicht das Inverkehrbringen eines KI-Systems beinhalten, sind ebenfalls ausgenommen, aber wenn ein Forschungsprototyp in einer realen Umgebung eingesetzt wird, kann er unter die Verordnung fallen.

Darüber hinaus gilt das Gesetz nicht für KI-Systeme, die für persönliche, nicht-professionelle Aktivitäten verwendet werden, wie Hobbyprojekte oder persönliche Assistenten, es sei denn, sie werden öffentlich zugänglich gemacht. Open-Source-KI-Modelle unterliegen reduzierten Transparenzanforderungen, aber die Verbote für inakzeptable Risiken gelten unabhängig vom Open-Source-Status.

Zeitplan und Umsetzung

Die Verbote traten am 2. Februar 2025 in Kraft, genau sechs Monate nach Inkrafttreten des KI-Gesetzes. Diese frühe Frist spiegelt die Dringlichkeit wider, die schädlichsten KI-Nutzungen zu verbannen. Andere Bestimmungen folgen einem gestaffelten Zeitplan:

• August 2025: Verpflichtungen für Allgemeinzweck-KI-Modelle, einschließlich Transparenz- und Urheberrechtsanforderungen, werden anwendbar.
• August 2026: Die meisten Bestimmungen, einschließlich derer für Hochrisiko-KI-Systeme, werden anwendbar.
• August 2027: Verpflichtungen für Hochrisiko-KI-Systeme, die in regulierte Produkte (z. B. Medizinprodukte, Fahrzeuge) eingebettet sind, werden anwendbar.

Die Mitgliedstaaten müssen nationale zuständige Behörden benennen, um die Verordnung durchzusetzen, und der durch das Gesetz eingerichtete Europäische Ausschuss für künstliche Intelligenz koordiniert die nationale Aufsicht und gewährleistet eine konsistente Anwendung in der gesamten EU.

Durchsetzung und Strafen

Die Nichteinhaltung der Verbote kann zu Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens führen, je nachdem, welcher Betrag höher ist. Dies ist die höchste Strafstufe unter dem KI-Gesetz und spiegelt die Schwere der Verwendung verbotener Praktiken wider. Kleinere Anbieter und Start-ups können reduzierten Geldstrafen ausgesetzt sein, aber die Verbote sind absolut, und Unwissenheit wird nicht nachsichtig behandelt.

Die Europäische Kommission kann Untersuchungen durchführen und Korrekturmaßnahmen ergreifen, einschließlich der Rücknahme von KI-Systemen vom Markt. Nationale Behörden können ebenfalls innerhalb ihrer Zuständigkeiten Maßnahmen ergreifen. Das Gesetz sieht einen Beschwerdemechanismus vor, der es Einzelpersonen ermöglicht, Beschwerden über KI-Systeme bei den zuständigen Behörden einzureichen.

Auswirkungen auf Industrie und Innovation

Die Verbote haben erhebliche Auswirkungen auf KI-Entwickler und -Bereitsteller, insbesondere in Sektoren wie KI-Forschung, maschinellem Lernen und Deep Learning. Unternehmen müssen gründliche Audits durchführen, um sicherzustellen, dass ihre KI-Systeme nicht in die verbotenen Kategorien fallen. Zum Beispiel müssen OpenAI und Anthropic, die große Sprachmodelle entwickeln, sicherstellen, dass ihre Produkte nicht für soziales Scoring oder manipulative Praktiken verwendet werden. Ebenso müssen Google DeepMind und andere Forschungslabore ihre Arbeit mit der Verordnung in Einklang bringen.

Das Verbot der Echtzeit-Biometrie im öffentlichen Raum betrifft Unternehmen wie Waymo und Tesla Autopilot, die auf Computer Vision angewiesen sind, obwohl diese Systeme hauptsächlich in Fahrzeugen und nicht in der öffentlichen Überwachung eingesetzt werden. Das Verbot des ungezielten Scrapings von Gesichtsbildern wirkt sich auf Datenerfassungspraktiken aus und drängt Unternehmen zur Einführung datenschutzfreundlicher Techniken.

Trotz der Strenge enthält das Gesetz Ausnahmen für die Strafverfolgung, die Echtzeit-Biometrie in spezifischen Notfallsituationen wie terroristischen Anschlägen oder Fällen vermisster Personen unter gerichtlicher Aufsicht erlaubt. Dieses Gleichgewicht zielt darauf ab, Grundrechte zu schützen und gleichzeitig Sicherheitsmaßnahmen zu ermöglichen.

Globale Auswirkungen und Zukunftsaussichten

Das EU-KI-Gesetz ist zu einem globalen Maßstab geworden und beeinflusst die KI-Regulierung in anderen Rechtsordnungen. Das Datum der Verbote setzt einen Präzedenzfall für das Verbot von KI-Praktiken, die Menschenrechte verletzen, und andere Länder könnten ähnliche Maßnahmen übernehmen. Ab 2025 ist die EU die erste große Volkswirtschaft, die solche umfassenden KI-Verbote umsetzt, und ihre Durchsetzung wird genau beobachtet werden.

Zukünftige Entwicklungen umfassen den Verhaltenskodex für Allgemeinzweck-KI, der am 10. Juli 2025 veröffentlicht wurde und Anbietern von Allgemeinzweck-KI-Modellen Leitlinien zur Demonstration der Konformität bietet. Der Kodex deckt Transparenz, Urheberrecht und Sicherheit ab, und obwohl die Teilnahme freiwillig ist, wird erwartet, dass er zum De-facto-Standard wird.

Zusammenfassend markiert das Datum der Verbote des EU-KI-Gesetzes einen entscheidenden Moment in der KI-Governance und setzt klare Grenzen für die Nutzung von KI in der EU. Es spiegelt ein Engagement für menschenzentrierte KI wider, das Innovation mit dem Schutz der Grundrechte in Einklang bringt. Mit der Umsetzung der Verordnung wird sie die Entwicklung und Bereitstellung von KI-Technologien weltweit prägen.