UK AI安全研究所（UK AISI）は、2023年11月に設立された政府支援組織であり、高度な人工知能（AI）モデル、特にフロンティアAIシステムの安全性を評価・確保することを目的としていた。その設立は、2023年にAIによる潜在的な存在リスクに関する公的な声明が相次いだことを受け、正式なAI安全規制に向けた世界的な動きにおける重要な一歩となった。この研究所はフロンティアAIタスクフォースから発展し、リシ・スナク首相によって発表された。首相は独立した安全性評価の必要性を強調し、AI企業は「自分の宿題を採点する」ことはできないと述べた。当初はロンドンに拠点を置いていたが、2024年5月には主要なAI開発企業に近づくためサンフランシスコに拡張された。2025年には、安全保障上の懸念へのより広範な焦点を反映して、AI安全保障研究所（AI Security Institute）に改名された。
背景と動機
人工知能安全研究所の概念は、高度なAIモデルの安全性を評価・確保することを目的とした政府支援組織の一種として登場した。2023年には、研究者や業界リーダーによるAIの潜在的な存在リスクに関する著名な公的声明により、AI安全性が注目を集めた。リシ・スナク首相率いる英国政府は、AI安全規制のリーダーとして自国を位置づけようとした。スナク首相は「英国をAI安全規制の知的拠点だけでなく地理的拠点にもする」意向を表明し、AI安全サミットの計画を発表した。このサミットは2023年11月に、第二次世界大戦中の暗号解読で知られる歴史的な場所であるブレッチリー・パークで開催され、英国の技術安全保障への取り組みを象徴した。
設立と発展
UK AISIは、2023年11月のAI安全サミット中に正式に設立され、同年前半に設立されていたフロンティアAIタスクフォースから発展した。この研究所の主な使命は、フロンティアAIモデルの展開前に安全性評価を実施することであり、Large language model推論、Generative AIコンテンツ生成、潜在的な悪用などの能力に焦点を当てていた。研究所は、AI企業の自己評価への依存を減らし、独立した評価を提供することを目指した。2024年4月、英国と米国は少なくとも1つの共同安全テストで協力する合意を結論し、国際協力における画期的な出来事となった。UK AISIは2024年5月、OpenAI、Anthropic、Google DeepMindなど多くの主要なAI企業が本社を置くサンフランシスコに事務所を開設すると発表した。この動きは、英国の技術大臣ミシェル・ドネランによれば、「AI安全性に関する新たな国際基準を設定する」計画の一部であった。
国際ネットワーク
UK AISIの設立は、AI安全研究所の世界的なネットワーク形成を促進した。2024年5月のAIソウルサミットで、国際的なリーダーたちは、英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、欧州連合の研究所からなるネットワークを形成することに合意した。このネットワークは、評価手順の調和とベストプラクティスの共有を目指した。2025年7月、ネットワークはAIエージェントの評価に関する問題、特に機密情報の漏洩やサイバーセキュリティに関する問題を調査する演習を実施した。メンバーはまた、Machine learning研究の主要会議であるNeurIPS 2025（サンディエゴ）で会合し、進捗状況と今後の方向性について議論した。
各国の研究所
オーストラリア
アルバニーズ政権は、2025年11月25日にオーストラリアAI安全研究所の設立を発表した。この研究所は産業・科学・資源省内に置かれ、4年間で2,990万豪ドルの予算で支援されている。ゼネラルマネージャーはケイト・コンロイ氏で、同氏はオーストラリア空軍の責任あるAIイニシアチブも率いている。
カナダ
カナダは2024年4月にAI安全研究所を設立すると発表し、2024年11月に正式に設立された。この研究所はイノベーション・科学・経済開発カナダの下で運営され、カナダ高等研究所（CIFAR）と提携している。5年間で5,000万カナダドルの予算で支援されている。
欧州連合
2024年5月に設立されたEU AIオフィスは、AI安全研究所の国際ネットワークのメンバーである。加盟国間のAI安全対策を調整し、規制と基準に焦点を当てている。
フランス
2025年1月31日、フランス政府は国立AI評価・安全保障研究所（INESIA）を設立した。この研究所はAIシステムの評価を目的とし、欧州および国際的な安全基準に貢献することを目指している。
インド
電子情報技術省は、2024年10月7日に、Meta、Google、Microsoft、IBM、OpenAI、NASSCOM、インド工科大学（IIT）などのさまざまな利害関係者と、AI安全研究所の設立について協議を行った。規制から基準設定、リスク特定、被害検出への焦点移行が決定された。アシュウィニ・ヴァイシュナウ大臣は、2025年1月30日に、倫理的で安全なAIアプリケーションを確保するためのIndiaAI安全研究所の設立を発表した。この研究所は、インドの社会的、経済的、文化的、言語的多様性に基づく国内研究開発を促進し、インドのデータセットを使用する。学術機関や民間部門のパートナー（IITやUNESCOなどの国際機関を含む）との「ハブ・アンド・スポーク」モデルで運営される。
日本
日本AISI（J-AISI）は、2024年2月に情報処理推進機構の一部として設立された。約23人を雇用し、AISI評議会、AISI運営委員会、6つのチームからなる事務局で構成されている。元IBM JapanおよびSompo Japanの村上明子氏が理事長を務め、平本健二氏と西村すぐる氏が副理事長を務めている。
ケニア
ケニアはAI安全研究所の国際ネットワークに参加することに合意し、ネットワーク内で唯一のアフリカ諸国となったが、具体的な詳細はまだ発表されていない。
シンガポール
2022年6月に設立されたデジタルトラストセンターは、2024年5月にシンガポールAISIに改名された。南洋理工大学の一部であり、情報通信メディア開発庁と提携し、年間1,000万シンガポールドルの投資で支援されている。
韓国
韓国は2024年5月に、電子通信研究院の下にAI安全研究所を設立すると発表した。この研究所は2024年11月に設立され、盆唐区に拠点を置き、年間1,000万〜2,000万韓国ウォンの暫定投資と少なくとも30人の従業員を擁する。
影響と遺産
UK AI安全研究所の設立は、政府支援によるAI安全評価の先例を確立し、世界中で同様の機関の設立に影響を与えた。2025年にAI安全保障研究所へと発展したことは、安全性を超えた安全保障上の懸念への範囲拡大を反映していた。この研究所の活動は国際基準の開発に貢献したが、2024年4月のPoliticoの報道によると、多くのAI企業が評価のために最先端モデルへの展開前アクセスを共有していなかったため、課題は残っている。Metaのグローバルアフェアーズ担当プレジデントであるニック・クレッグ氏は、企業が共通の評価ルールと手順を待っていると指摘し、英国と米国の研究所がその確立に取り組んだ。国際ネットワークは、Artificial intelligenceガバナンスにおける新たな課題に対処するための定期的な演習と会合を通じて、AI安全対策の調整において引き続き重要な役割を果たしている。