AI-Governance bezeichnet die Gesetze, Verordnungen, Standards und Institutionen, sowohl auf nationaler als auch internationaler Ebene, die prägen, wie künstliche Intelligenz entwickelt und eingesetzt wird. Das Feld liegt an der Schnittstelle von KI-Sicherheit und KI-Ethik und übersetzt technische sowie gesellschaftliche Bedenken zu KI, wie algorithmische Verzerrung, Halluzination und langfristige existenzielle Risiken durch KI, in verbindliche Regeln, freiwillige Verpflichtungen und Aufsichtsorgane. Die Governance-Ansätze variieren stark je nach Rechtsraum und reichen von umfassender, risikobasierter Regulierung bis hin zu weniger strengen Rahmenwerken, die auf Selbstregulierung der Industrie setzen.
Wichtige regulatorische Rahmenwerke
Das umfassendste verbindliche Gesetz Mitte der 2020er-Jahre ist der EU AI Act, der 2024 von der Europäischen Union verabschiedet wurde und KI-Anwendungen in Risikostufen einteilt, von verbotenen Nutzungen wie Social Scoring bis hin zu stark regulierten „Hochrisiko“-Kategorien, einschließlich biometrischer Identifikation und Einstellungstools, mit leichteren Transparenzpflichten für allgemeine Systeme wie Chatbots auf Basis großer Sprachmodelle. In den Vereinigten Staaten erfolgte die Governance eher durch Exekutivmaßnahmen und sektorspezifische Regeln als durch ein einziges umfassendes Gesetz; die Executive Order von Präsident Biden vom Oktober 2023 wies Bundesbehörden an, Anforderungen für Sicherheitstests und Berichterstattung zu entwickeln, während die nachfolgende Regierung einen stärker deregulierenden Kurs mit Fokus auf die Wettbewerbsfähigkeit der USA einschlug. China hat eigene verbindliche Regeln für generative KI-Dienste erlassen, die Sicherheitsbewertungen und Kennzeichnungspflichten für öffentlich zugängliche Systeme verlangen. Andere Rechtsräume, darunter das Vereinigte Königreich, Japan und Kanada, haben überwiegend leitfadenbasierte oder sektorspezifische Ansätze gegenüber umfassender Gesetzgebung bevorzugt.
Internationale Koordination
Regierungen haben außerdem freiwillige internationale Koordination außerhalb verbindlichen Rechts verfolgt. Die Bletchley-Erklärung, die im November 2023 von 28 Ländern beim KI-Sicherheitsgipfel des Vereinigten Königreichs unterzeichnet wurde, markierte die erste bedeutende multilaterale Stellungnahme, die das Potenzial von KI für ernste, sogar katastrophale Risiken anerkannte, und startete eine Reihe von Folgegipfeln in Südkorea und Frankreich. Parallel dazu richteten mehrere Länder eigene KI-Sicherheitsinstitute ein, darunter das UK AI Safety Institute und das in der NIST angesiedelte U.S. AI Safety Institute, die damit beauftragt sind, Spitzenmodelle vor oder kurz nach ihrer Veröffentlichung unabhängig zu testen. Auch die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung und die Vereinten Nationen haben nicht bindende KI-Prinzipien veröffentlicht, auf die viele Regierungen bei der Ausarbeitung nationaler Politik Bezug nehmen.
Verpflichtungen der Industrie
Neben staatlicher Regulierung haben führende KI-Entwickler wie OpenAI, Anthropic und Google DeepMind eigene freiwillige Governance-Rahmenwerke veröffentlicht, oft als verantwortungsvolle Skalierungsrichtlinien oder Preparedness-Frameworks bezeichnet, die das Unternehmen auf spezifische Sicherheitsbewertungen und Maßnahmen verpflichten, sobald ein Modell definierte Fähigkeitsschwellen überschreitet; diese werden im Artikel zu Anthropic-Prinzipien näher erläutert. Unternehmen haben Modelle außerdem vor größeren Veröffentlichungen externem Red Teaming und Bewertungen durch staatliche Sicherheitsinstitute unterzogen, eine Praxis, die nach dem Bletchley-Gipfel an Bedeutung gewann.
Debatten
AI-Governance bleibt in mehreren Bereichen umstritten. Einige Forscher und politische Entscheidungsträger argumentieren, dass Regulierung sich auf konkrete, gegenwärtige Schäden wie Verzerrung und Fehlinformation konzentrieren sollte, statt auf spekulative zukünftige Risiken; andere vertreten das Gegenteil und fordern, dass die Regulierungsaufmerksamkeit angesichts des Tempos der Fähigkeitszuwächse Szenarien mit geringer Wahrscheinlichkeit, aber katastrophalen Folgen stärker gewichten sollte - eine Kluft, die die breitere Uneinigkeit darüber widerspiegelt, wie Skalierungsgesetze und emergente Fähigkeiten zu interpretieren sind. Eine separate Debatte betrifft die Frage, ob Regulierung die allgemeinen Grundmodelle selbst oder nur spezifische nachgelagerte Anwendungen adressieren sollte; der EU AI Act versöhnt diesen Ansatz teilweise, indem er allgemeinen Systemen leichtere, transparenzorientierte Pflichten auferlegt und Hochrisikonutzungen strenger behandelt. Branchenlobbyismus, Bedenken hinsichtlich regulatorischer Gefangennahme und der Wettbewerb mit weniger regulierten Rechtsräumen erschweren zusätzlich die Bemühungen um dauerhafte internationale Übereinkünfte.