Die Bletchley-Erklärung 2023 ist eine wegweisende internationale Vereinbarung über die Sicherheitsrisiken fortschrittlicher künstlicher Intelligenz, die am 1. November 2023 in Bletchley Park im Vereinigten Königreich unterzeichnet wurde. Die Erklärung war das wichtigste Ergebnis des vom britischen Staat ausgerichteten KI-Sicherheitsgipfels und wurde von Vertretern aus 28 Ländern unterzeichnet, darunter die Vereinigten Staaten, China, die Europäische Union und das Vereinigte Königreich. Es war das erste Mal, dass große Weltmächte, einschließlich China und der USA, gemeinsam das Potenzial für katastrophale Schäden durch KI-Systeme an der Spitze der Entwicklung anerkannten und sich zu kooperativem Handeln für KI-Sicherheit verpflichteten.
Die Erklärung konzentriert sich auf Risiken, die von „Frontier-KI“ ausgehen – hochleistungsfähigen Allzweckmodellen, einschließlich solcher, die auf großen Sprachmodellen und generativer KI basieren. Sie erkennt an, dass diese Systeme Fähigkeiten aufweisen können, die nicht vollständig verstanden oder kontrollierbar sind, was möglicherweise zu ernsthaften oder katastrophalen Schäden führen kann, sei es durch Missbrauch oder Unfälle. Der Text betont die Bedeutung von menschenzentrierter, vertrauenswürdiger KI und fordert internationale Zusammenarbeit zur Entwicklung gemeinsamer Sicherheitsstandards und Forschung, während er auch die Notwendigkeit anerkennt, Sicherheit mit Innovation und der Förderung von inklusivem Wirtschaftswachstum in Einklang zu bringen.
Hintergrund und Kontext
Die Erklärung entstand vor dem Hintergrund rascher Fortschritte bei den Fähigkeiten von KI, insbesondere bei der Entwicklung von Deep-Learning-Modellen und Transformer-Architekturen. In den Jahren vor dem Gipfel hatten Unternehmen wie OpenAI, Anthropic und Google DeepMind zunehmend leistungsfähigere Systeme veröffentlicht, was bei Forschern und politischen Entscheidungsträgern Bedenken über potenzielle Risiken aufkommen ließ, darunter die Verbreitung von Desinformation, Cybersicherheitsbedrohungen und die Möglichkeit des Kontrollverlusts über superintelligente Systeme.
Die britische Regierung unter Premierminister Rishi Sunak positionierte sich als Vorreiter bei der Governance der KI-Sicherheit und schlug den Gipfel als Forum für internationalen Dialog vor. Die Wahl von Bletchley Park, dem historischen Ort des Codeknackens im Zweiten Weltkrieg, war symbolisch und verband die früheren Beiträge Großbritanniens zur Informatik mit seinen Ambitionen, die Zukunft der KI-Regulierung zu gestalten.
Wichtigste Bestimmungen und Verpflichtungen
Die Bletchley-Erklärung ist eine nicht bindende politische Erklärung, legt jedoch mehrere zentrale Verpflichtungen fest. Die Unterzeichner stimmten zu:
- Die erheblichen Risiken anzuerkennen, die KI mit sich bringt, insbesondere in den Bereichen Cybersicherheit, Biotechnologie und das Potenzial von KI-Systemen, autonom auf eine Weise zu handeln, die Schaden verursachen könnte.
- Internationale Zusammenarbeit zu unterstützen, um ein gemeinsames wissenschaftliches Verständnis von KI-Risiken zu entwickeln und evidenzbasierte Sicherheitsmaßnahmen aufzubauen.
- Die Entwicklung von KI zu fördern, die sicher, menschenzentriert, vertrauenswürdig und verantwortungsvoll ist, im Einklang mit bestehenden internationalen Rahmenwerken wie den UN-Zielen für nachhaltige Entwicklung.
- Internationale Diskussionen über KI-Sicherheit fortzusetzen, einschließlich durch zukünftige Gipfel, wobei der nächste für 2024 in Südkorea geplant ist.
Die Erklärung betont auch die Notwendigkeit, dass sowohl Akteure des öffentlichen als auch des privaten Sektors KI-Risiken angehen, und fordert Forschung zur Interpretierbarkeit und Ausrichtung von KI-Systemen sowie die Entwicklung robuster Bewertungsmethoden.
Unterzeichner und internationale Reaktion
Die Erklärung wurde von 28 Ländern unterzeichnet, darunter Australien, Kanada, Frankreich, Deutschland, Indien, Japan und Südkorea sowie die EU. Bemerkenswerterweise war China Unterzeichner, trotz seiner eigenen separaten KI-Regulierungen, was als bedeutender diplomatischer Erfolg angesehen wurde. Die Teilnahme Chinas war umstritten, wobei einige Kritiker argumentierten, dass sie eine Regierung mit undurchsichtigen KI-Praktiken legitimierte, während andere sie als wesentlich für jede sinnvolle globale Vereinbarung betrachteten.
Auch Technologieunternehmen nahmen an dem Gipfel teil, darunter Vertreter von OpenAI, Anthropic, Google DeepMind und Microsoft, unterzeichneten die Erklärung jedoch nicht, da es sich um ein Dokument auf Regierungsebene handelte. Stattdessen gaben sie separate freiwillige Verpflichtungen ab, Sicherheitsrichtlinien zu veröffentlichen und die Ziele des Gipfels zu unterstützen.
Kritik und Einschränkungen
Trotz ihres historischen Charakters ist die Bletchley-Erklärung auf Kritik gestoßen. Einige Experten argumentieren, dass sie zu vage ist und spezifische Ziele, Zeitpläne oder Durchsetzungsmechanismen fehlen. Der nicht bindende Charakter bedeutet, dass Unterzeichner rechtlich nicht verpflichtet sind, bestimmte Maßnahmen zu ergreifen. Andere haben angemerkt, dass die Erklärung sich stark auf existenzielle Risiken von Frontier-KI konzentriert und möglicherweise unmittelbarere Bedenken wie algorithmische Verzerrung, Arbeitsplatzverlagerung und Datenschutzverletzungen überschattet.
Darüber hinaus wurde die Einladungsliste des Gipfels dafür kritisiert, viele Entwicklungsländer und Organisationen der Zivilgesellschaft auszuschließen, was Fragen zur Inklusivität der globalen KI-Governance aufwirft. Die Erklärung erwähnt zwar die Notwendigkeit, Entwicklungsländer zu unterstützen, aber Kritiker argumentieren, dass konkrete Maßnahmen fehlen.
Vermächtnis und Auswirkungen
Die Bletchley-Erklärung 2023 wird allgemein als grundlegender Schritt in der internationalen KI-Governance angesehen. Sie etablierte einen Präzedenzfall für diplomatisches Engagement auf hoher Ebene zur KI-Sicherheit und ebnete den Weg für nachfolgende Initiativen, wie den KI-Sicherheitsgipfel in Seoul im Mai 2024 und die laufende Arbeit des Internationalen KI-Sicherheitsberichts. Während ihre praktischen Auswirkungen noch abzuwarten sind, signalisierte die Erklärung einen globalen Konsens, dass KI-Risiken koordiniertes Handeln erfordern, eine Abkehr von den weitgehend nationalen und unternehmensgeführten Ansätzen der Vergangenheit.
Die Erklärung beeinflusste auch die nationale Politik, wobei mehrere Länder, darunter das Vereinigte Königreich und die USA, in den Monaten nach dem Gipfel neue KI-Sicherheitsinstitute ankündigten. Diese Institute haben die Aufgabe, Frontier-KI-Modelle zu bewerten und bewährte Verfahren auszutauschen, was direkt den Aufruf der Erklärung zur internationalen Zusammenarbeit widerspiegelt.