2023年AI安全サミットは、人工知能の安全性と規制に焦点を当てた国際会議でした。英国政府によって主催され、2023年11月にイングランドのミルトン・キーンズにあるブレッチリー・パークで開催されました。このイベントは、人工知能に関する初の世界的なサミットであり、政府首脳、テクノロジー企業の経営幹部、研究者を集め、高度なAIシステムに伴うリスクに対処しました。サミットは、ブレッチリー宣言の発表につながり、これは「共有の関心事であるAI安全リスクの特定」と「それぞれのリスクベースの政策の構築」に焦点を当て、「テクノロジーの利点を責任を持って、すべての人々の利益のために活用できるようにする」ことを目指しました。
このサミットは、Artificial intelligenceガバナンスに関する世界的な議論における重要な瞬間を示し、米国や中国を含む主要な世界大国がAI安全に関する共同声明に初めて合意した場となりました。また、このイベントは、サミットに至るまでの数年間に急速に進歩したLarge language modelおよびGenerative AI技術の重要性の高まりを浮き彫りにしました。
背景
当時の英国首相であるリシ・スナクは、AIを政府の優先事項の一つとし、英国が2023年秋に世界的なAI安全会議を主催すると発表しました。この発表は、偽情報、サイバー攻撃、自律型兵器での使用など、AIの潜在的なリスクに対する国民と政府の懸念が高まる中で行われました。スナク政権は、同国のコンピューティングへの歴史的貢献と、強力な学術・産業AI部門に基づき、英国をAI安全規制のリーダーとして位置づけようとしました。
サミットは、国家元首、テクノロジー企業のCEO、主要なAI研究者に招待状が送られる、高レベルの外交イベントとして計画されました。英国政府は、AIリスクは本質的に世界的であり、協調的な対応が必要であると主張し、国際協力の必要性を強調しました。
会場
ブレッチリー・パークは、第二次世界大戦中に英国政府によってビクトリア様式の邸宅跡に設立された暗号解読施設であり、英国の都市ミルトン・キーンズにあります。この施設はコンピューティングの歴史において重要な役割を果たしており、最初期の近代コンピュータのいくつかがここで建設されました。会場の選択は象徴的であり、ブレッチリー・パークは、アラン・チューリングなどの人物がエニグマ暗号の解読に取り組んだ、近代コンピューティング発祥の地として広く認識されています。
会場の歴史的重要性は、講演者や参加者によって強調され、1940年代の暗号解読の取り組みと、AIを理解し制御するという現代の課題との間に類似点が引き出されました。また、この設定は、コンピューティングの初期から現代のAIシステムの基盤となるTransformer (architecture)アーキテクチャの開発に至るまで、技術革新における英国の遺産を参加者に思い起こさせる役割を果たしました。
成果
サミットでは、米国、中国、オーストラリア、欧州連合を含む28か国が、人工知能の課題とリスクを管理するための国際協力を呼びかける、ブレッチリー宣言として知られる合意を発表しました。ブレッチリー宣言は、AIが安全で、人間中心で、信頼でき、責任ある方法で設計、開発、展開、使用されるべきであると確認しています。
「フロンティアAI」、つまり最新かつ最も強力なAIシステムの規制に重点が置かれています。サミットで提起された懸念には、テロ、犯罪活動、戦争へのAIの潜在的な使用や、人類全体に対する実存的リスクが含まれます。宣言は具体的な規制目標を設定しませんでしたが、将来の議論の枠組みを確立し、さらなるサミットの開催へのコミットメントを含みました。
宣言に加えて、いくつかの国家的な取り組みが発表されました。米国大統領のジョー・バイデンは、AI開発者に対し、安全性の結果を米国政府と共有することを要求する大統領令に署名しました。米国政府はまた、国立標準技術研究所の一部として、アメリカAI安全研究所の設立を発表しました。これらの行動は、AI開発における透明性と説明責任を強調するサミットの姿勢への直接的な対応と見なされました。
テクノロジー起業家のイーロン・マスクとスナクは、11月2日に、マスクが所有するソーシャルメディアプラットフォームXで、AI安全に関するライブインタビューを行いました。広い視聴者に放送されたこのインタビューでは、AIが人間の知能を超える可能性や、規制監督の必要性などのトピックが取り上げられました。以前からAI開発の一時停止を呼びかけていたマスクは、実存的リスクに関する自身の懸念を繰り返し述べました。
主な参加者
以下の人物がサミットに参加しました：
- リシ・スナク、英国首相
- カマラ・ハリス、米国副大統領
- チャールズ3世、英国国王（オンラインで参加）
- イーロン・マスク、テスラCEO、X、スペースX、ニューラリンク、xAIのオーナー
- ジョルジャ・メローニ、イタリア首相
- ウルズラ・フォン・デア・ライエン、欧州委員会委員長
- サム・アルトマン、OpenAI CEO
- ニック・クレッグ、元英国政治家、メタ・プラットフォームズのグローバル担当プレジデント
- ムスタファ・スレイマン、Google DeepMind 共同創業者
- ミシェル・ドネラン、英国科学・イノベーション・技術担当国務長官
- ヴェラ・ヨウロヴァー、欧州委員会の価値観・透明性担当副委員長
- ジーナ・レモンド、米国商務長官
- 呉朝暉、中国科学技術部副部長
西側と東側の両方の大国から高官が出席したことは、このイベントの世界的な重要性を強調しました。サム・アルトマンやムスタファ・スレイマンなどの業界リーダーの参加は、AI開発者と政策立案者の緊密な関係、およびAnthropicやGoogle DeepMindなどの企業が規制環境の形成において影響力を増していることを浮き彫りにしました。
グローバルAIサミットシリーズ
ブレッチリー・パークサミットは、AI安全に関する一連の国際会議の最初のものとなることを意図していました。宣言には、将来のサミットを開催するというコミットメントが含まれており、初期の合意に基づいて、新たな課題に対処することを目指していました。このシリーズは、政府だけでなく、テクノロジー企業、学界、市民社会も含む包括的なものとして設計されました。
次のサミットは2024年に韓国で開催される予定で、3回目はフランスで計画されていました。これらの後続会議では、AIテストと評価の基準や、執行に関する国際協力のメカニズムを含む、より詳細な規制提案に焦点が当てられることが期待されていました。
サミットシリーズは、世界中の国々がAI開発の急速なペースに取り組む中で、AIガバナンスを正式化するという広範な傾向を反映していました。ブレッチリー・パークでの議論は、MIT CSAIL、Stanford AI Lab、BAIR (Berkeley AI Research)などの機関の研究や、安全性と倫理へのより大きな注意を呼びかけていたSamy BengioやMelanie Mitchellなどの著名なAI研究者の仕事によって情報が提供されました。
重要性と遺産
ブレッチリー・パークAI安全サミットは、AIガバナンスの歴史における画期的な出来事として広く認識されました。民主主義政府と権威主義政府の両方を含む幅広い国家連合が、AIリスクに対処するための共有枠組みに初めて合意した場となりました。また、サミットはAI安全の問題を公共の議論において高め、メディアの報道と公の議論の増加を促しました。
しかし、批評家は、サミットの成果は主に象徴的であり、ブレッチリー宣言には拘束力のあるコミットメントや具体的な執行メカニズムが欠けていると指摘しました。一部の研究者は、フロンティアAIからの実存的リスクへの焦点が、アルゴリズムバイアス、雇用の喪失、少数の大規模テクノロジー企業への権力集中などのより差し迫った懸念を覆い隠していると主張しました。
これらの批判にもかかわらず、サミットはAIガバナンスのための外交チャネルを確立することに成功し、これはAI開発と展開の世界的な性質を考えると不可欠であると見なされました。また、このイベントは、研究と革新における強みに基づいて、テクノロジーポリシーにおける召集力としての英国の役割を強調しました。
サミットの遺産は、グローバルAIサミットシリーズが宣言を具体的な行動に変換する効果によって測定される可能性が高いです。2024年時点では、初期の合意はまだ主要な規制変更につながっていませんでしたが、進行中の対話は、AIの利点を活用しながらリスクを管理するための前向きなステップと見なされていました。