ブレッチリー・パークAI安全サミットは、2023年11月1日と2日に英国のブレッチリー・パークで開催された国際会議である。この場所は、第二次世界大戦中に英国が暗号解読に取り組んだ歴史的な遺跡であり、英国政府がフロンティアAIリスクに関する国際政策を調整するために招集した。28か国と欧州連合の代表者に加え、主要なAI企業や研究者が参加し、高度なAIのリスクを認識し、国際協力に取り組む共同声明であるブレッチリー宣言を採択した。
宣言
ブレッチリー宣言は、米国、中国、欧州連合を含む参加したすべての政府によって署名された。これは、地政学的な競争相手がAIリスクに関する共通の表現に合意した異例の事例である。宣言は、ほとんどのAIリスクは制御に関する意図しない問題と潜在的な悪用から生じると述べ、特に意図的か非意図的かを問わず深刻な害を引き起こす可能性のあるフロンティアAIに関連するリスクに焦点を当て、その年の初めにPause Giant AI Experiments letterで提起された懸念を反映した。宣言は拘束力のある規則を提案するには至らず、代わりに共通の科学的理解と将来の協力に重点を置いた。
参加者と副次的な成果
主要な研究所の幹部や研究者が参加し、OpenAI、Google DeepMind、Anthropicの代表者に加え、学者や安全研究者も含まれた。その中にはYoshua Bengioがおり、彼は気候科学の評価を大まかにモデルにした国際的な「AIの現状」科学報告書の主導を任された。このサミットは、英国AI安全研究所や米国AI安全研究所などの国家AI安全研究所の発表と密接に関連しており、これらの機関はフロンティアモデルのリリース前後の評価を実施することを目的としており、レッドチーミングや評価といった高度なシステムに関する広範な取り組みと結びついている。
遺産
ブレッチリー・サミットは、計画された一連のAI安全サミットの最初のものであり、2024年の韓国サミットと2025年のフランスサミットが続き、気候外交に匹敵する形でAIリスクに関する定期的な国際調整を制度化する試みを反映している。その実際的な効果は、EU AI法のような拘束力のある措置とは対照的に、主に宣言的であり規制的ではなかったが、フロンティアAIリスクがニッチな研究上の関心事ではなく、首脳級外交の主流の課題となった時点を示すものとして頻繁に引用され、AIガバナンスや実存的リスクの議論が政策形成に果たす役割に関する進行中の議論に影響を与えている。