2023年AI安全サミットは、人工知能の安全性と規制に関する国際会議でした。英国政府が主催し、2023年11月にイングランドのミルトン・キーンズにあるブレッチリー・パークで開催されました。このイベントは、人工知能に関する初の世界的なサミットであり、政府首脳、テクノロジー企業の幹部、研究者が一堂に会し、高度なAIシステムがもたらすリスクと機会に対処しました。サミットの成果として、ブレッチリー宣言が発表されました。これは、共有される関心事であるAI安全性リスクを特定し、テクノロジーの恩恵を責任を持ってすべての人々の利益のために活用できるよう、それぞれのリスクに基づく政策を構築することに焦点を当てた共同合意です。
このサミットは、国際的なAIガバナンスにおける重要な節目となりました。米国、中国、欧州連合を含む主要な世界の大国が、AIリスクに対処するための共通の枠組みに初めて正式に合意したからです。イベントは、コンピューティングと暗号解読の歴史的に重要な場所であるブレッチリー・パークで開催され、AIの未来に関する議論の象徴的な背景となりました。
背景
当時の英国首相リシ・スナクは、AIを政権の優先事項の一つとし、2023年秋に英国が世界的なAI安全会議を主催すると発表しました。この発表は、人工知能技術の急速な進歩、特に強力な大規模言語モデルや生成AIシステムの出現に対する世界的な懸念が高まる中で行われました。スナク政権は、英国のAI研究開発における既存の強みを基盤に、AI安全性と規制のリーダーとしての地位を確立しようとしました。
サミットは、AI研究者や業界リーダーからの、AI安全性に関する国際的な協調行動を求める声への対応として計画されました。イベントの数か月前には、OpenAI、Google DeepMind、Anthropicの幹部を含むAIコミュニティの著名人が、高度なAIシステムに伴う潜在的なリスクを軽減するための政府介入を公に提唱していました。
会場
ブレッチリー・パークは、ビクトリア様式の邸宅の敷地に英国政府が設立した第二次世界大戦中の暗号解読施設であり、英国の都市ミルトン・キーンズにあります。この施設はコンピューティングの歴史において重要な役割を果たしており、最初の現代的なコンピューターのいくつかがここで製造されました。第二次世界大戦中、この場所には政府暗号学校が置かれ、アラン・チューリングなどの人物が率いる暗号解読者がドイツの通信の解読に成功し、連合国の戦争努力に大きく貢献しました。
会場としてブレッチリー・パークが選ばれたのは意図的であり、英国のコンピューティングへの歴史的貢献と、デジタル時代の課題に対処するというコミットメントを象徴していました。この施設は現在、博物館および遺産サイトとして運営されており、その歴史的な建物はサミットの議事進行に独特の雰囲気を提供しました。サイトの戦時中の歴史とAI安全性の現代的な課題との対比は、技術的脅威に対処する際の国際協力の重要性を強調する役割を果たしました。
ブレッチリー宣言
サミットの主要な成果は、米国、中国、オーストラリア、欧州連合を含む28か国が署名した合意であるブレッチリー宣言でした。この宣言は、人工知能の課題とリスクを管理するための国際協力を呼びかけました。AIは、安全で、人間中心で、信頼でき、責任ある方法で設計、開発、展開、使用されるべきであると確認しました。
宣言は、共有される関心事であるAI安全性リスクを特定し、テクノロジーの恩恵を責任を持ってすべての人々の利益のために活用できるよう、それぞれのリスクに基づく政策を構築することに焦点を当てました。AIが社会や経済を変革する可能性を認識しつつ、潜在的な害に対する警戒の必要性も認めました。この合意は、AIガバナンスにおける透明性、説明責任、国際協力の重要性を強調しました。
「フロンティアAI」、つまり最新かつ最も強力なAIシステムの規制に重点が置かれました。サミットで提起された懸念には、テロ、犯罪活動、戦争へのAIの悪用の可能性や、人類全体に対する実存的リスクが含まれていました。宣言は拘束力のある規制を確立するものではなく、将来の協力と政策開発のための枠組みを設定するものでした。
成果とコミットメント
ブレッチリー宣言に加えて、サミットは他にもいくつかの注目すべき成果を生み出しました。米国大統領ジョー・バイデンは、AI開発者に対し、安全性の結果を米国政府と共有することを要求する大統領令に署名しました。米国政府はまた、国立標準技術研究所の一部として、米国AI安全研究所の設立を発表しました。これらの行動は、米国におけるAI規制へのより積極的なアプローチを示しました。
テクノロジー起業家のイーロン・マスクとスナクは、11月2日にマスクが所有するソーシャルメディアプラットフォームXで、AI安全性についてのライブインタビューを行いました。会話では、AIの潜在的な利点とリスク、規制の必要性、AI開発の未来などのトピックが取り上げられました。このインタビューは広く視聴され、大きなメディアの注目を集め、サミットの知名度をさらに高めました。
参加国のいくつかは、サミットを受けて独自のAI安全イニシアチブを発表しました。英国政府は独自のAI安全研究所の設立を約束し、他の国々はAI安全性研究への資金提供を増やすことを約束しました。サミットはまた、米国と中国の間のAIガバナンス問題に関する協議を含む、国間の二国間対話を促進しました。
主な出席者
以下の個人がサミットに出席しました：
- リシ・スナク、英国首相
- カマラ・ハリス、米国副大統領
- チャールズ3世、英国国王（オンラインで出席）
- イーロン・マスク、テスラCEO、X、スペースX、ニューラリンク、xAIのオーナー
- ジョルジャ・メローニ、イタリア首相
- ウルズラ・フォン・デア・ライエン、欧州委員会委員長
- サム・アルトマン、OpenAI CEO
- ニック・クレッグ、元英国政治家、メタ・プラットフォームズのグローバルアフェアーズ担当プレジデント
- ムスタファ・スレイマン、DeepMindの共同創設者
- ミシェル・ドネラン、英国科学・イノベーション・技術担当国務大臣
- ヴェラ・ヨウロヴァー、欧州委員会の価値観と透明性担当副委員長
- ジーナ・レモンド、米国商務長官
- 呉朝暉、中国科学技術省副大臣
このように多様な政治指導者とテクノロジー企業の幹部が出席したことは、サミットの世界的な重要性を強調しました。しばしば技術政策に関して異なる見解を持つ米国と中国の両方の代表が出席したことは特に注目に値し、AI安全性に関する国際協力の可能性を浮き彫りにしました。
反応と批判
サミットは、さまざまな関係者から賛否両論の反応を受けました。支持者は、国際的なAIガバナンスへの必要な第一歩であり、この分野の主要なプレーヤーを初めて一堂に会させたと賞賛しました。ブレッチリー宣言は、そのコミットメントがほとんど拘束力のないものであったとしても、前向きな発展と見なされました。
一方、批判者は、サミットには具体的な行動が欠けており、宣言は意味のある影響を与えるにはあまりにも曖昧であると主張しました。一部のAI安全性研究者は、サミットがAIの透明性、説明責任、AIの悪用防止などの問題について、より具体的なコミットメントを生み出さなかったことに失望を表明しました。また、サミットが実存的リスクに焦点を当てたことで、アルゴリズムバイアス、雇用の喪失、少数の大企業へのAIパワーの集中など、より差し迫った懸念が影を落とされたと疑問視する声もありました。
一部のオブザーバーは、多くの発展途上国や市民社会組織の代表を含む、特定の主要な関係者が欠席していることにも言及しました。サミットは、西側政府とテクノロジー企業が支配的であり、他の視点からの意見が限られていたと批判されました。
グローバルAIサミットシリーズ
ブレッチリー・パーク・サミットは、一連の世界的なAI安全サミットの最初のものでした。その後のイベントは、最初の会合で生まれた勢いを基盤に、AIガバナンスにおける継続的な課題に対処するために計画されました。このシリーズは、AI安全性に関する国際対話の定期的なフォーラムを提供し、時間の経過とともにより具体的な政策枠組みを開発することを目的として設計されました。
サミットシリーズは、AI安全性が国境を越えた協調行動を必要とする世界的な問題であるという認識の高まりを反映しています。AI技術が進歩し続けるにつれて、効果的なガバナンスメカニズムの必要性はますます緊急になっています。ブレッチリー・パーク・サミットとその後継イベントは、国際協力を通じてこれらの課題に対処するための重要な取り組みを表しています。
遺産と影響
ブレッチリー・パークAI安全サミットは、AI規制に関する世界的な議論の転換点となりました。AI安全性を世界中の政府にとっての優先課題として確立し、将来の政策開発の基盤を築きました。サミットがフロンティアAIに重点を置いたことで、最も先進的で潜在的に最も危険なAIシステムに注意が向けられ、国際協力を求める呼びかけは、テクノロジーガバナンスに関する多国間関与の先例を設定しました。
サミットはまた、AIに関する公の議論の広範な変化に貢献し、技術的能力の議論を超えて、AI展開の社会的および倫理的影響を考慮するようになりました。ブレッチリー宣言の安全性、人間中心性、信頼性、責任という原則は、その後、さまざまな国内および国際的な政策文書で参照されています。2024年現在、サミットシリーズは進化を続けており、その後の会合では新しい課題に対処し、ブレッチリー・パークで確立された基盤の上に構築されています。