ブレッチリー宣言は、2023年11月1日にAI安全サミットで発出された国際合意であり、人工知能の安全性と規制に特化した初の世界的会議である。英国政府が主催し、イングランドのミルトン・キーンズにあるブレッチリー・パークで開催されたこの宣言は、米国、中国、オーストラリア、欧州連合を含む28か国によって署名された。この宣言は、「共通の関心事であるAI安全リスクの特定」と「それぞれのリスクに基づく政策の構築」に焦点を当て、技術の利点を責任を持ってすべての人々の利益のために活用できるようにすることを目指している。
この宣言は、AIが安全で、人間中心で、信頼でき、責任ある方法で設計、開発、展開、使用されるべきであると確認している。また、特に「フロンティアAI」、すなわち最新かつ最も強力なAIシステムによってもたらされる課題とリスクを管理するための国際協力の必要性を強調している。この合意は、AIのグローバルガバナンスにおける重要な一歩を示すが、拘束力はなく、参加国の自主的なコミットメントに依存している。
背景
AI安全サミット2023は、AIを自国政府の優先事項とした英国首相リシ・スナクによって発表された。2023年春、スナクは英国が同年秋に世界的なAI安全会議を主催する意向を示した。このサミットは、2021年に発表された英国の国家AI戦略などの既存の取り組みに基づき、AI規制と革新のリーダーとしての地位を確立するという英国の広範な戦略の一部であった。
サミットをブレッチリー・パークで開催する決定は、この場所の歴史的重要性を考慮したものであった。ブレッチリー・パークは、ビクトリア朝の邸宅跡に英国政府が設立した第二次世界大戦中の暗号解読施設であった。ここはコンピューティングの歴史において重要な役割を果たし、コロッサスなどの初期の現代コンピュータがここで製造された。この会場の選択は、現代のAI開発を英国のコンピューティング遺産と結び付けるものであった。
会場と運営
ブレッチリー・パークは、イングランドのバッキンガムシャー州にあるミルトン・キーンズ市に位置している。この施設は第二次世界大戦中に政府暗号学校として運営され、アラン・チューリングを含む暗号分析者らがドイツの通信の解読に取り組んだ。現在、この場所は博物館を収容し、英国の技術的成果の象徴となっている。
サミットは、英国の科学・イノベーション・技術省が内閣府の支援を受けて主催した。このイベントは2日間にわたり、初日は政府と産業界のリーダーに焦点を当て、2日目は研究者や学者の間での技術的議論に充てられた。サミットには、世界中の政府、テクノロジー企業、学術機関の代表者が出席した。
主な成果
サミットの主な成果は、28か国と欧州連合によって署名されたブレッチリー宣言であった。この宣言は、経済成長、科学的発見、社会的進歩に対するAIの変革的潜在力を認識すると同時に、それがもたらす重大なリスクも認めている。これらのリスクには、テロ、犯罪活動、戦争へのAIの悪用の可能性や、人類全体に対する実存的リスクが含まれる。
この宣言は、署名国に対し以下を約束している：
- 共通の関心事であるAI安全リスクの特定と理解
- AIの安全な開発と使用を確保するためのそれぞれのリスクに基づく政策の構築
- AI安全研究に関する国際協力の支援
- AI開発における透明性と説明責任の促進
サミットはまた、いくつかの国家的取り組みにもつながった。米国大統領ジョー・バイデンは、AI開発者に対し安全性の結果を米国政府と共有することを求める大統領令に署名した。米国政府は、AIのテストと評価のための基準を策定するため、国立標準技術研究所（NIST）の一部として米国AI安全研究所の設立を発表した。
主な出席者
サミットには、高いレベルの政治的・産業界の人物が集まった。主な出席者は以下の通りである：
- リシ・スナク、英国首相
- カマラ・ハリス、米国副大統領
- チャールズ3世、英国国王（オンラインで出席）
- イーロン・マスク、テスラCEO、X、スペースX、ニューラリンク、xAIのオーナー
- ジョルジャ・メローニ、イタリア首相
- ウルズラ・フォン・デア・ライエン、欧州委員会委員長
- サム・アルトマン、OpenAIのCEO
- ニック・クレッグ、元英国政治家、Meta Platformsのグローバル問題担当社長
- ムスタファ・スレイマン、DeepMindの共同創業者
- ミシェル・ドネラン、英国科学・イノベーション・技術担当国務大臣
- ヴェラ・ユロヴァ、欧州委員会の価値観・透明性担当副委員長
- ジーナ・レモンド、米国商務長官
- 呉朝暉、中国科学技術省副大臣
中国当局者の出席は、AIガバナンスにおける米中協力のまれな例として注目された。サミットにはまた、Anthropic、Google DeepMind、Amazon Web Servicesなどの主要AI企業の代表者も含まれていた。
議論と論点
サミット中、参加者はさまざまなAI安全問題について議論した。主要な議題の一つはフロンティアAIの規制であり、一部の出席者は厳格な監視を主張し、他の出席者はより寛容なアプローチを支持した。AIが偽情報キャンペーン、サイバー攻撃、自律型兵器に使用される可能性について懸念が表明された。
注目すべき出来事として、11月2日にイーロン・マスクとリシ・スナクの間で行われたライブインタビューがあり、X（旧ツイッター）で放送された。この会話で、マスクはAIの実存的リスクについて警告し、積極的な規制を求めた一方、スナクは技術の経済的利益を強調した。このインタビューは大きなメディアの注目を集め、革新と安全性の適切なバランスについての議論を引き起こした。
反応と批判
ブレッチリー宣言はさまざまな反応を受けた。支持者は、米国と中国を含む主要国を結集させた国際的なAIガバナンスへの歴史的な第一歩として称賛した。一方、批判者は、この宣言が拘束力を持たず、具体的な執行メカニズムを欠いていると指摘した。一部の専門家は、サミットがアルゴリズムバイアス、プライバシー侵害、労働力の置き換えなどの即時的な害よりも、投機的な実存的リスクに焦点を当てすぎていると主張した。
市民社会組織も、非西洋の声の排除と議論における産業界代表の優位性について懸念を表明した。サミットは、労働組合、消費者団体、発展途上国の代表が含まれていないとして批判され、これが結果として得られる政策の包括性を制限する可能性があるとされた。
グローバルAIサミットシリーズ
ブレッチリー・サミットは、AI安全に関する一連の国際会議の最初のものとして意図されていた。この宣言は継続的な対話の枠組みを確立し、その後、他の国々でサミットが計画された。韓国が次のサミットの開催国として発表され、2024年に予定され、その後2025年にフランスが続く。このシリーズは、ブレッチリー宣言の勢いを基に、AIガバナンスに関するより具体的な国際合意を発展させることを目指している。
このシリーズは、AI安全が調整された行動を必要とするグローバルな問題であるという認識の高まりを反映している。AIシステムがより強力で広範になるにつれて、国際的な規範と基準の必要性は高まる可能性が高い。ブレッチリー宣言は、初期の拘束力のないものではあるが、この進行中のプロセスにおける基礎的な文書を表している。
遺産と意義
ブレッチリー宣言は、政府レベルでAI安全に特に対処する最初の国際合意として重要である。これはAIリスクについて議論するための共通言語を確立し、将来の外交努力の先例を設定した。ブレッチリー・パークを会場として選んだことは、コンピューティングと国家安全保障の間の歴史的つながりを強調し、技術の二重用途性を参加者に思い出させた。
この宣言の実際的な影響はまだ見られないが、その後の政策議論に影響を与えている。米国AI安全研究所などの国家的AI安全研究所の設立や、進行中の一連のグローバルサミットは、ブレッチリー宣言がAIリスクへの制度的対応を触発したことを示唆している。2025年現在、この宣言は政策議論で引き続き参照され、AIガバナンスにおける国際協力の基準となっている。