Der AI Safety Summit 2023 war eine internationale Konferenz, die sich auf die Sicherheit und Regulierung künstlicher Intelligenz konzentrierte. Organisiert von der britischen Regierung, fand sie im November 2023 in Bletchley Park, Milton Keynes, England, statt. Die Veranstaltung war der erste globale Gipfel zur künstlichen Intelligenz überhaupt und brachte Regierungsvertreter, Technologieunternehmensführer und Forscher zusammen, um die Risiken fortgeschrittener KI-Systeme zu adressieren. Der Gipfel führte zur Veröffentlichung der Bletchley-Erklärung, die sich auf die "Identifizierung von KI-Sicherheitsrisiken von gemeinsamem Interesse" und die "Entwicklung entsprechender risikobasierter Politiken" konzentrierte, um "sicherzustellen, dass die Vorteile der Technologie verantwortungsvoll zum Guten und für alle genutzt werden können".
Der Gipfel markierte einen bedeutenden Moment in der globalen Debatte über die Governance künstlicher Intelligenz, da es das erste Mal war, dass große Weltmächte, einschließlich der Vereinigten Staaten und China, einer gemeinsamen Erklärung zur KI-Sicherheit zustimmten. Die Veranstaltung unterstrich auch die wachsende Bedeutung von Large-Language-Modellen und generativer KI, die in den Jahren vor dem Gipfel rasant fortgeschritten waren.
Hintergrund
Der damalige Premierminister des Vereinigten Königreichs, Rishi Sunak, machte KI zu einer der Prioritäten seiner Regierung und kündigte an, dass das Vereinigte Königreich im Herbst 2023 eine globale KI-Sicherheitskonferenz ausrichten würde. Die Ankündigung erfolgte vor dem Hintergrund wachsender öffentlicher und staatlicher Besorgnis über die potenziellen Risiken von KI, einschließlich ihrer Nutzung für Desinformation, Cyberangriffe und autonome Waffen. Sunaks Regierung versuchte, das Vereinigte Königreich als führend in der KI-Sicherheitsregulierung zu positionieren, aufbauend auf den historischen Beiträgen des Landes zur Informatik und seinen starken akademischen und industriellen KI-Sektoren.
Der Gipfel war als hochrangiges diplomatisches Ereignis geplant, mit Einladungen an Staatsoberhäupter, CEOs von Technologieunternehmen und führende KI-Forscher. Die britische Regierung betonte die Notwendigkeit internationaler Zusammenarbeit und argumentierte, dass KI-Risiken globaler Natur seien und koordinierte Antworten erforderten.
Veranstaltungsort
Bletchley Park war eine Einrichtung zur Entschlüsselung von Codes im Zweiten Weltkrieg, die von der britischen Regierung auf dem Gelände eines viktorianischen Herrenhauses errichtet wurde und sich in der britischen Stadt Milton Keynes befindet. Es hat eine wichtige Rolle in der Geschichte der Informatik gespielt, da einige der ersten modernen Computer in dieser Einrichtung gebaut wurden. Die Wahl des Veranstaltungsorts war symbolisch, da Bletchley Park weithin als Geburtsort der modernen Informatik gilt, wo Persönlichkeiten wie Alan Turing an der Entschlüsselung des Enigma-Codes arbeiteten.
Die historische Bedeutung des Veranstaltungsorts wurde von Rednern und Teilnehmern hervorgehoben, die Parallelen zwischen den Codeknacker-Bemühungen der 1940er Jahre und der zeitgenössischen Herausforderung, KI zu verstehen und zu kontrollieren, zogen. Die Umgebung erinnerte die Teilnehmer auch an das Erbe des Vereinigten Königreichs in technologischer Innovation, von den frühen Tagen der Informatik bis zur Entwicklung von Transformer-Architekturen, die modernen KI-Systemen zugrunde liegen.
Ergebnisse
28 Länder auf dem Gipfel, einschließlich der Vereinigten Staaten, China, Australien und der Europäischen Union, gaben eine Vereinbarung heraus, die als Bletchley-Erklärung bekannt ist und internationale Zusammenarbeit zur Bewältigung der Herausforderungen und Risiken künstlicher Intelligenz fordert. Die Bletchley-Erklärung bestätigt, dass KI so gestaltet, entwickelt, eingesetzt und verwendet werden sollte, dass sie sicher, menschenzentriert, vertrauenswürdig und verantwortungsvoll ist.
Ein Schwerpunkt wurde auf die Regulierung von "Frontier-KI" gelegt, ein Begriff für die neuesten und leistungsfähigsten KI-Systeme. Auf dem Gipfel wurden Bedenken geäußert, darunter die potenzielle Nutzung von KI für Terrorismus, kriminelle Aktivitäten und Kriegsführung sowie das existenzielles Risiko für die Menschheit als Ganzes. Die Erklärung setzte keine spezifischen regulatorischen Ziele, etablierte jedoch einen Rahmen für zukünftige Diskussionen, einschließlich der Verpflichtung, weitere Gipfel abzuhalten.
Zusätzlich zur Erklärung wurden mehrere nationale Initiativen angekündigt. Der Präsident der Vereinigten Staaten, Joe Biden, unterzeichnete eine Exekutivanordnung, die KI-Entwickler verpflichtet, Sicherheitsergebnisse mit der US-Regierung zu teilen. Die US-Regierung kündigte auch die Schaffung eines amerikanischen KI-Sicherheitsinstituts als Teil des National Institute of Standards and Technology an. Diese Maßnahmen wurden als direkte Antwort auf die Betonung von Transparenz und Rechenschaftspflicht in der KI-Entwicklung durch den Gipfel angesehen.
Der Technologieunternehmer Elon Musk und Sunak führten am 2. November ein Live-Interview zur KI-Sicherheit auf X, der von Musk besessenen Social-Media-Plattform. Das Interview, das einem breiten Publikum übertragen wurde, behandelte Themen wie das Potenzial von KI, menschliche Intelligenz zu übertreffen, und die Notwendigkeit regulatorischer Aufsicht. Musk, der zuvor eine Pause in der KI-Entwicklung gefordert hatte, wiederholte seine Bedenken hinsichtlich existenzieller Risiken.
Bemerkenswerte Teilnehmer
Die folgenden Personen nahmen am Gipfel teil:
- Rishi Sunak, Premierminister des Vereinigten Königreichs
- Kamala Harris, Vizepräsidentin der Vereinigten Staaten
- Charles III., König des Vereinigten Königreichs (virtuell teilnehmend)
- Elon Musk, CEO von Tesla, Eigentümer von X, SpaceX, Neuralink und xAI
- Giorgia Meloni, Premierministerin Italiens
- Ursula von der Leyen, Präsidentin der Europäischen Kommission
- Sam Altman, CEO von OpenAI
- Nick Clegg, ehemaliger britischer Politiker und Präsident für globale Angelegenheiten bei Meta Platforms
- Mustafa Suleyman, Mitbegründer von Google DeepMind
- Michelle Donelan, britische Staatssekretärin für Wissenschaft, Innovation und Technologie
- Věra Jourová, Vizepräsidentin der Europäischen Kommission für Werte und Transparenz
- Gina Raimondo, US-Handelsministerin
- Wu Zhaohui, chinesischer Vize-Minister für Wissenschaft und Technologie
Die Anwesenheit hochrangiger politischer Persönlichkeiten aus westlichen und östlichen Mächten unterstrich die globale Bedeutung der Veranstaltung. Die Teilnahme von Branchenführern wie Sam Altman und Mustafa Suleyman hob die enge Beziehung zwischen KI-Entwicklern und politischen Entscheidungsträgern sowie den wachsenden Einfluss von Unternehmen wie Anthropic und Google DeepMind bei der Gestaltung der regulatorischen Landschaft hervor.
Globale KI-Gipfel-Serie
Der Gipfel in Bletchley Park war als erster einer Reihe internationaler Treffen zur KI-Sicherheit gedacht. Die Erklärung enthielt die Verpflichtung, zukünftige Gipfel abzuhalten, mit dem Ziel, auf den anfänglichen Vereinbarungen aufzubauen und aufkommende Herausforderungen zu adressieren. Die Serie war darauf ausgelegt, inklusiv zu sein und nicht nur Regierungen, sondern auch Technologieunternehmen, Wissenschaft und Zivilgesellschaft zusammenzubringen.
Der Folgegipfel war für 2024 in Südkorea geplant, mit einem dritten in Frankreich. Diese nachfolgenden Treffen sollten sich auf detailliertere regulatorische Vorschläge konzentrieren, einschließlich Standards für KI-Tests und -Bewertung sowie Mechanismen für internationale Zusammenarbeit bei der Durchsetzung.
Die Gipfel-Serie spiegelte einen breiteren Trend zur Formalisierung der KI-Governance wider, da Länder auf der ganzen Welt mit dem rasanten Tempo der KI-Entwicklung kämpften. Die Diskussionen in Bletchley Park wurden durch Forschung von Institutionen wie MIT CSAIL, Stanford AI Lab und BAIR (Berkeley AI Research) sowie durch die Arbeit prominenter KI-Forscher wie Samy Bengio und Melanie Mitchell informiert, die mehr Aufmerksamkeit für Sicherheit und Ethik gefordert hatten.
Bedeutung und Vermächtnis
Der KI-Sicherheitsgipfel in Bletchley Park wurde weithin als wegweisendes Ereignis in der Geschichte der KI-Governance angesehen. Es war das erste Mal, dass eine breite Koalition von Nationen, einschließlich demokratischer und autoritärer Regierungen, einem gemeinsamen Rahmen zur Bewältigung von KI-Risiken zustimmte. Der Gipfel trug auch dazu bei, das Thema KI-Sicherheit in den öffentlichen Diskurs zu heben, was zu verstärkter Medienberichterstattung und öffentlicher Debatte führte.
Kritiker merkten jedoch an, dass die Ergebnisse des Gipfels weitgehend symbolisch waren, da die Bletchley-Erklärung keine verbindlichen Verpflichtungen oder spezifischen Durchsetzungsmechanismen enthielt. Einige Forscher argumentierten, dass der Fokus auf existenziellen Risiken von Frontier-KI unmittelbarere Bedenken wie algorithmische Verzerrung, Arbeitsplatzverlagerung und die Konzentration von Macht in wenigen großen Technologieunternehmen überschattete.
Trotz dieser Kritik gelang es dem Gipfel, einen diplomatischen Kanal für die KI-Governance zu etablieren, der angesichts der globalen Natur der KI-Entwicklung und -Bereitstellung als wesentlich angesehen wurde. Die Veranstaltung hob auch die Rolle des Vereinigten Königreichs als versammelnde Macht in der Technologiepolitik hervor, aufbauend auf seinen Stärken in Forschung und Innovation.
Das Vermächtnis des Gipfels wird wahrscheinlich an der Wirksamkeit der Globalen KI-Gipfel-Serie gemessen, Erklärungen in konkrete Maßnahmen umzusetzen. Ab 2024 hatten die anfänglichen Vereinbarungen noch nicht zu größeren regulatorischen Änderungen geführt, aber der laufende Dialog wurde als positiver Schritt zur Bewältigung der Risiken von KI angesehen, während gleichzeitig ihre Vorteile genutzt werden.