Die Verbote des EU-KI-Gesetzes sind eine Reihe von Verboten im Rahmen des Gesetzes über künstliche Intelligenz (KI-Gesetz) der Europäischen Union, das am 1. August 2024 in Kraft trat. Diese Verbote richten sich gegen KI-Anwendungen, die als ein inakzeptables Risiko für Grundrechte, Sicherheit und demokratische Werte eingestuft werden. Sie wurden am 2. Februar 2025 anwendbar und markieren den ersten großen Durchsetzungsmeilenstein der Verordnung. Die Verbote sind Teil eines breiteren risikobasierten Rahmens, der auch Hochrisiko-, begrenztes Risiko- und minimales Risiko-KI-Systeme sowie allgemeine KI-Modelle regelt.
Das KI-Gesetz, das von der Europäischen Kommission am 21. April 2021 vorgeschlagen wurde, wurde vom Europäischen Parlament am 13. März 2024 angenommen und vom EU-Rat am 21. Mai 2024 genehmigt. Es schafft einen gemeinsamen Regulierungsrahmen für KI in der gesamten EU mit extraterritorialer Reichweite, ähnlich der Datenschutz-Grundverordnung. Die Verbote sollen KI-Nutzungen verhindern, die als grundlegend unvereinbar mit den EU-Werten gelten, während bestimmte eng gefasste Ausnahmen für Strafverfolgungs- und Sicherheitszwecke erlaubt bleiben.
Anwendungsbereich der verbotenen Praktiken
Das KI-Gesetz verbietet KI-Systeme, die subliminale, manipulative oder täuschende Techniken einsetzen, um Verhalten zu verzerren und fundierte Entscheidungen zu beeinträchtigen und erheblichen Schaden zu verursachen. Dies umfasst die Ausnutzung von Schwachstellen von Einzelpersonen oder Gruppen aufgrund von Alter, Behinderung oder sozioökonomischer Situation. Ebenfalls verboten sind KI-basierte Systeme zur sozialen Bewertung, die Einzelpersonen auf der Grundlage ihres Verhaltens, ihrer persönlichen Merkmale oder sozialen Interaktionen bewerten oder klassifizieren und zu nachteiliger Behandlung führen. Die Nutzung von Echtzeit-Fernbiometrie-Identifizierung in öffentlich zugänglichen Räumen für Strafverfolgungszwecke ist verboten, außer in spezifischen Szenarien schwerer Straftaten mit gerichtlicher Genehmigung. Darüber hinaus sind KI-Systeme, die Emotionen an Arbeitsplätzen oder in Bildungseinrichtungen ableiten, verboten, ebenso wie Systeme, die Gesichtserkennungsdatenbanken durch ungezieltes Scraping aus dem Internet oder CCTV-Material erstellen.
Ausnahmen für Strafverfolgung und Sicherheit
Bestimmte verbotene Praktiken haben enge Ausnahmen. Echtzeit-Fernbiometrie-Identifizierung kann von Strafverfolgungsbehörden für gezielte Suche nach Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung oder zur Verhinderung konkreter, erheblicher Bedrohungen für Leben oder Sicherheit verwendet werden. Diese Nutzungen erfordern eine vorherige gerichtliche Genehmigung und unterliegen strengen zeitlichen und geografischen Grenzen. Das Verbot der Emotionserkennung gilt nicht für KI-Systeme, die aus medizinischen oder Sicherheitsgründen auf den Markt gebracht werden, wie die Erkennung von Notlagen im Gesundheitswesen. Militärische und nationale Sicherheits-KI-Systeme sind vollständig vom KI-Gesetz ausgenommen, ebenso wie Systeme, die für wissenschaftliche Forschung und Entwicklung verwendet werden.
Umsetzung und Durchsetzung
Die Mitgliedstaaten waren verpflichtet, nationale zuständige Behörden zu benennen, die die Anwendung der Verbote überwachen. Das durch das Gesetz eingerichtete Europäische Gremium für künstliche Intelligenz erleichtert Zusammenarbeit und Compliance. Strafen für Verstöße gegen die verbotenen Praktiken können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens betragen, je nachdem, welcher Betrag höher ist. Die Europäische Kommission hat Leitlinien veröffentlicht, um den Umfang der Verbote zu klären, insbesondere in Bezug auf Emotionserkennung und biometrische Kategorisierung.
Auswirkungen auf KI-Entwicklung und -Bereitstellung
Die Verbote haben erhebliche Auswirkungen auf KI-Entwickler und -Bereitsteller. Unternehmen, die in der EU tätig sind, müssen gründliche Bewertungen durchführen, um sicherzustellen, dass ihre KI-Systeme nicht in die Kategorie des inakzeptablen Risikos fallen. Dies hat zu Anpassungen im Produktdesign geführt, insbesondere bei generativen KI-Systemen und KI-Anwendungen, die unbeabsichtigt das Nutzerverhalten manipulieren könnten. Die Verbote betreffen auch maschinelles Lernen-Modelle, die in Social-Media-Algorithmen, Werbung und Personalwesen verwendet werden, da diese als manipulativ oder diskriminierend angesehen werden könnten. Einige Anbieter außerhalb der EU haben sich entschieden, den Zugang zu bestimmten KI-Funktionen in der EU einzuschränken, um Compliance-Belastungen zu vermeiden.
Beziehung zu anderen Bestimmungen des KI-Gesetzes
Die Verbote unterscheiden sich von den Verpflichtungen für Hochrisiko-KI-Systeme, die Konformitätsbewertungen, Transparenz und menschliche Aufsicht erfordern. Systeme mit begrenztem Risiko, wie Chatbots mit großen Sprachmodellen, müssen Nutzer nur darüber informieren, dass sie mit KI interagieren. Systeme mit minimalem Risiko, wie Spam-Filter, sind nicht reguliert. Die Kategorie der allgemeinen KI, die 2023 hinzugefügt wurde, um Systeme wie ChatGPT zu adressieren, auferlegt Transparenz- und Urheberrechtspflichten, mit zusätzlichen Bewertungen für Modelle, die mehr als 10^25 Gleitkommaoperationen erfordern. Die Verbote wirken unabhängig, was bedeutet, dass jedes KI-System, unabhängig von seiner Risikokategorie, keine verbotenen Praktiken ausüben darf.
Globale Einflüsse und Vergleiche
Die Verbote des EU-KI-Gesetzes haben die KI-Regulierung weltweit beeinflusst. Andere Rechtsordnungen, darunter Kanada und Brasilien, haben in ihren eigenen Gesetzesvorschlägen auf den EU-Rahmen Bezug genommen. Die Verbote sind jedoch restriktiver als Ansätze in den Vereinigten Staaten, die auf freiwilligen Leitlinien und sektorspezifischen Regeln beruhen. Die extraterritoriale Reichweite des Gesetzes bedeutet, dass KI-Anbieter außerhalb der EU, wie solche im OpenAI-Ökosystem oder bei Google DeepMind, konform sein müssen, wenn sie Dienste für EU-Nutzer anbieten. Dies hat zu globalen Unternehmensrichtlinien geführt, die mit EU-Standards übereinstimmen, selbst in Regionen ohne ähnliche Gesetze.
Kritiken und Debatten
Rechtswissenschaftler und Branchenexperten haben die Klarheit und Durchführbarkeit der Verbote debattiert. Kritiker argumentieren, dass Begriffe wie „manipulative Techniken“ und „erheblicher Schaden“ vage sind und möglicherweise zu inkonsistenter Durchsetzung führen. Andere behaupten, dass die Ausnahmen für Strafverfolgung zu breit sind und potenziellen Missbrauch ermöglichen. Befürworter betonen, dass die Verbote Grundrechte schützen und einen globalen Maßstab setzen. Die Europäische Kommission hat sich verpflichtet, weitere Leitlinien herauszugeben und die Liste der verbotenen Praktiken zu aktualisieren, während sich die Technologie weiterentwickelt, um sicherzustellen, dass das Gesetz auf neue Risiken reagiert.
Zukunftsausblick
Ab 2025 werden die Verbote durchgesetzt, wobei nationale Behörden beginnen, Compliance-Hinweise auszugeben. Die Europäische Kommission plant, die Umsetzung bis 2029 zu überprüfen und dabei technologische Entwicklungen und den Anpassungsbedarf zu berücksichtigen. Der Erfolg der Verbote wird von einer effektiven Koordination zwischen den Mitgliedstaaten und der Fähigkeit abhängen, sich an neue KI-Fähigkeiten anzupassen. Die Verbote des EU-KI-Gesetzes stellen einen wegweisenden Versuch dar, KI in ihren schädlichsten Extremen zu regulieren und Innovation mit dem Schutz individueller Rechte in Einklang zu bringen.