Die Konvention des Europarats über künstliche Intelligenz, offiziell das Rahmenübereinkommen über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit, ist ein internationaler Vertrag, der am 5. September 2024 in Vilnius, Litauen, zur Unterzeichnung aufgelegt wurde. Sie stellt das erste rechtsverbindliche Instrument dar, das sich speziell mit künstlicher Intelligenz befasst, und zielt darauf ab, sicherzustellen, dass KI-Systeme in einer Weise entwickelt und genutzt werden, die mit Menschenrechten, demokratischen Prozessen und der Rechtsstaatlichkeit vereinbar ist. Die Konvention gilt für die Aktivitäten öffentlicher Behörden und privater Akteure, die in deren Auftrag handeln, mit Bestimmungen zur Risikobewertung und -minderung während des gesamten Lebenszyklus von KI-Systemen.
Der Vertrag entstand aus einem mehrjährigen Prozess innerhalb des Europarats, der 2019 mit der Einrichtung des Ad-hoc-Ausschusses für künstliche Intelligenz (CAHAI) begann. Nach der Machbarkeitsstudie des CAHAI wurde der Ausschuss für künstliche Intelligenz (CAI) 2022 mit der Ausarbeitung der Konvention beauftragt. Die Verhandlungen wurden im März 2024 abgeschlossen, und der Text wurde am 17. Mai 2024 vom Ministerkomitee angenommen. Die Konvention steht auch nichteuropäischen Staaten offen, was ihren globalen Anspruch widerspiegelt. Bis Anfang 2025 haben mehrere Länder, darunter das Vereinigte Königreich, die Vereinigten Staaten und Japan, den Vertrag unterzeichnet, aber noch nicht ratifiziert.
Hintergrund und Kontext
Der rasche Fortschritt von Technologien der künstlichen Intelligenz, einschließlich maschinellem Lernen und Deep-Learning-Modellen, veranlasste internationale Bemühungen zur Etablierung gemeinsamer Normen. Der Europarat, mit seinem langjährigen Fokus auf Menschenrechte, positionierte sich als zentrales Forum für eine solche Regulierung. Die Konvention baut auf bestehenden Instrumenten wie der Europäischen Menschenrechtskonvention und dem Übereinkommen zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten auf. Anders als der KI-Gesetz der Europäischen Union, das eine regionale Verordnung ist, ist die Konvention des Europarats als globaler Rahmen konzipiert, der Ländern außerhalb Europas offensteht.
Der Ausarbeitungsprozess umfasste umfangreiche Konsultationen mit der Zivilgesellschaft, der Wissenschaft und der Industrie. Zu den Schlüsselfiguren in den Verhandlungen gehörten der Vorsitzende des CAI sowie Vertreter der Mitgliedstaaten und Beobachterstaaten. Der Anwendungsbereich der Konvention deckt den gesamten Lebenszyklus von KI-Systemen ab, von Design und Entwicklung über Bereitstellung bis hin zur Außerbetriebnahme, mit einem Fokus auf Aktivitäten, die Menschenrechte beeinträchtigen könnten.
Kernbestimmungen
Die Konvention legt allgemeine Grundsätze für KI-Systeme fest, darunter Transparenz, Rechenschaftspflicht und Nichtdiskriminierung. Sie verpflichtet die Vertragsparteien, Maßnahmen zu ergreifen, um sicherzustellen, dass KI-Systeme in einer Weise genutzt werden, die mit der Menschenwürde und der individuellen Autonomie vereinbar ist. Spezifische Bestimmungen befassen sich mit dem Schutz personenbezogener Daten, dem Recht auf Privatsphäre und dem Recht auf wirksame Rechtsbehelfe für Personen, die durch KI-Entscheidungen nachteilig betroffen sind. Der Vertrag betont auch die Bedeutung von öffentlichem Bewusstsein und Bildung über KI.
Eines der Kernelemente der Konvention ist die Anforderung zur Risikobewertung und -minderung. Die Vertragsparteien müssen Risiken identifizieren, bewerten und adressieren, die von KI-Systemen ausgehen, insbesondere solche, die zu Diskriminierung oder anderen Menschenrechtsverletzungen führen könnten. Die Konvention unterscheidet zwischen Hochrisiko- und Niedrigrisikoanwendungen, wobei für erstere strengere Verpflichtungen gelten. Sie schreibt außerdem vor, dass KI-Systeme einer menschlichen Aufsicht unterliegen, um sicherzustellen, dass Menschen bei Bedarf in Entscheidungsprozesse eingreifen können.
Unterzeichner und Ratifizierungsprozess
Bis Anfang 2025 wurde die Konvention von über 20 Ländern unterzeichnet, darunter das Vereinigte Königreich, die Vereinigten Staaten, Japan und mehrere europäische Nationen. Die Unterzeichnungszeremonie fand in Vilnius statt, mit Vertretern dieser Länder. Die Ratifizierung erfordert die innerstaatliche Zustimmung in jedem Unterzeichnerstaat; die Konvention tritt drei Monate nach der fünften Ratifizierung in Kraft, einschließlich mindestens dreier Mitgliedstaaten des Europarats. Zum Wissensstand hat noch kein Land ratifiziert, aber der Prozess ist in mehreren Jurisdiktionen im Gange.
Die offene Natur der Konvention erlaubt Nichtmitgliedstaaten den Beitritt, was als Weg zur Förderung globaler Standards angesehen wird. So haben die Vereinigten Staaten, die kein Mitglied des Europarats sind, den Vertrag unterzeichnet, was ihre Bereitschaft signalisiert, sich an internationalen Normen zur KI-Governance auszurichten. Die Ratifizierung ist jedoch nicht garantiert, und die Wirksamkeit des Vertrags wird vom Engagement der Unterzeichner abhängen, seine Bestimmungen umzusetzen.
Vergleich mit dem EU-KI-Gesetz
Die Konvention des Europarats über künstliche Intelligenz und das EU-KI-Gesetz sind komplementäre, aber unterschiedliche Instrumente. Das EU-KI-Gesetz ist eine umfassende Verordnung, die für alle KI-Systeme gilt, die auf dem EU-Markt bereitgestellt werden, mit einer risikobasierten Klassifizierung und verbindlichen Anforderungen für Anbieter und Nutzer. Im Gegensatz dazu ist die Konvention des Europarats ein Rahmenvertrag, der allgemeine Grundsätze und Verpflichtungen festlegt und die Umsetzungsdetails der nationalen Gesetzgebung überlässt. Die Konvention ist weniger vorschreibend und gibt den Vertragsparteien Flexibilität bei der Erreichung ihrer Ziele.
Beide Instrumente betonen Menschenrechte und Sicherheit, aber die Konvention hat eine größere geografische Reichweite und könnte die KI-Governance über Europa hinaus beeinflussen. Das EU-KI-Gesetz, das im Mai 2024 vom Europäischen Rat genehmigt wurde, dürfte als Modell für viele Länder dienen, aber der Vertrag des Europarats bietet einen alternativen oder komplementären Weg für Nicht-EU-Staaten. Die Beziehung zwischen beiden ist nicht hierarchisch; vielmehr operieren sie parallel, wobei das EU-KI-Gesetz für EU-Mitgliedstaaten gilt und die Konvention eine globale Basislinie bietet.
Umsetzung und Durchsetzung
Die Konvention verlangt, dass jede Vertragspartei eine Aufsichtsbehörde einrichtet oder benennt, die die Einhaltung überwacht. Diese Behörden müssen die Befugnis haben, Untersuchungen durchzuführen, Sanktionen zu verhängen und Rechtsbehelfe für Verstöße bereitzustellen. Der Vertrag fördert auch die internationale Zusammenarbeit, einschließlich gegenseitiger Unterstützung und Informationsaustausch zwischen den Behörden. Die Durchsetzungsmechanismen sind jedoch relativ schwach im Vergleich zum EU-KI-Gesetz, das Geldbußen von bis zu 7 % des weltweiten Umsatzes für bestimmte Verstöße vorsieht.
Die Umsetzung wird in vielen Ländern erhebliche rechtliche und institutionelle Änderungen erfordern. So müssen die Vertragsparteien sicherstellen, dass ihre innerstaatlichen Gesetze mit den Grundsätzen der Konvention übereinstimmen, was Änderungen bestehender Datenschutz- und Antidiskriminierungsgesetze beinhalten kann. Die Konvention fordert auch die Entwicklung von Standards und Leitlinien, möglicherweise in Zusammenarbeit mit anderen internationalen Gremien wie der OECD und der UNESCO.
Reaktionen und Kritik
Die Konvention hat gemischte Reaktionen hervorgerufen. Befürworter, darunter viele Menschenrechtsorganisationen, loben sie als historischen Schritt hin zu verbindlichen internationalen Normen für KI. Sie argumentieren, dass sie ein notwendiges Gegengewicht zur raschen Verbreitung von KI-Systemen durch Unternehmen wie OpenAI, Anthropic und Google DeepMind bietet, die zunehmend leistungsfähigere große Sprachmodelle entwickeln. Kritiker hingegen behaupten, die Konvention sei zu vage und habe keine Durchsetzungskraft. Einige zivilgesellschaftliche Gruppen haben stärkere Bestimmungen zu Verboten bestimmter KI-Anwendungen, wie etwa Social-Scoring-Systemen, und klarere Haftungsregeln gefordert.
Vertreter der Industrie haben Bedenken hinsichtlich einer möglichen regulatorischen Fragmentierung geäußert, da verschiedene Länder die Konvention unterschiedlich auslegen könnten. Sie sorgen sich auch um die Compliance-Belastung, insbesondere für kleine und mittlere Unternehmen. Dennoch haben viele Technologieunternehmen die Ziele der Konvention öffentlich unterstützt und sehen darin einen Weg, das öffentliche Vertrauen in KI aufzubauen.
Zukunftsaussichten
Bis Anfang 2025 befindet sich die Konvention in der Ratifizierungsphase. Ihr Inkrafttreten wird in den nächsten Jahren erwartet, abhängig von der Geschwindigkeit der Ratifizierungen. Die Wirkung des Vertrags wird voraussichtlich erheblich sein, da er einen Präzedenzfall für die internationale KI-Governance setzt. Er könnte auch die Entwicklung anderer regionaler Rahmenwerke beeinflussen, etwa in Afrika und Lateinamerika. Der Erfolg der Konvention wird davon abhängen, wie effektiv die Vertragsparteien ihre Grundsätze umsetzen und ob sie sich an die sich entwickelnde KI-Landschaft anpassen kann, einschließlich Fortschritten bei generativer KI und autonomen Systemen.
Der Europarat plant regelmäßige Treffen der Vertragsparteien, um die Umsetzung zu überprüfen und bewährte Praktiken auszutauschen. Es besteht auch die Möglichkeit zusätzlicher Protokolle zur Behandlung spezifischer Fragen, wie KI im militärischen Bereich oder im Gesundheitswesen. Die Konvention ist ein lebendiges Instrument, das darauf ausgelegt ist, sich mit technologischen Entwicklungen weiterzuentwickeln.
Fazit
Die Konvention des Europarats über künstliche Intelligenz markiert einen Meilenstein in der globalen Governance künstlicher Intelligenz. Indem sie verbindliche Verpflichtungen für Staaten festlegt, Menschenrechte im KI-Kontext zu schützen, setzt sie einen neuen Standard für internationale Zusammenarbeit. Obwohl ihre Wirksamkeit noch abzuwarten bleibt, repräsentiert die Konvention eine kollektive Anstrengung, sicherzustellen, dass KI der Menschheit dient und sie nicht untergräbt. Während die Länder auf die Ratifizierung zusteuern, werden die Grundsätze des Vertrags wahrscheinlich nationale Gesetze und Unternehmenspraktiken weltweit prägen und zu einem verantwortungsvolleren und menschenzentrierten KI-Ökosystem beitragen.