米国AI安全研究所（AISI）は、2023年11月に設立された政府支援機関であり、高度な人工知能（AI）モデル、いわゆるフロンティアAIモデルの安全性を評価・確保することを目的としている。同研究所は、米国商務省傘下の連邦機関である国立標準技術研究所（NIST）の下で運営されている。この研究所は、2023年にAIによる潜在的な存在リスクに関する公的な声明が発表された後、AI安全性への世界的な関心が高まる中で設立された。2025年には、米国AISIはAI標準・イノベーションセンター（CAISI）に改名され、標準策定とイノベーション支援への方向転換を反映した。同研究所は、2024年5月のAIソウルサミットで合意された通り、英国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、欧州連合の対応機関を含む国際的なAI安全研究所ネットワークの一部である。
米国AISIの主な使命は、高度なAIモデルの独立した評価を実施し、安全ガイドラインを策定し、AI開発者の間でベストプラクティスを促進することである。これには、バイアス、誤用、壊滅的害などのリスク評価や、連邦機関や産業界への技術的ガイダンスの提供が含まれる。同研究所は、学術機関、産業パートナー、国際的な対応機関と協力し、AI安全研究と政策を推進している。その活動は、Artificial intelligenceシステム、特にLarge language modelやGenerative AIモデルが各分野で急速に展開される時代において極めて重要である。
設立と初期活動
米国AISIは、2023年11月に開催されたAI安全サミットで、英国のAI安全研究所と並んで正式に設立された。このサミットは、英国首相リシ・スナクが主催し、英国をAI安全規制の世界的リーダーとして位置付けることを目指した。スナク氏は、独立した安全評価の必要性を強調し、AI企業は「自分の宿題を自分で採点することはできない」と述べた。米国AISIは、NISTの一部として設立され、同機関の測定と標準に関する専門知識を活用した。2024年4月には、米国と英国が少なくとも1つの共同安全テストで協力する合意を締結し、国際協力における重要な一歩となった。しかし、同月のPoliticoの報道によると、多くのAI企業が評価用に最先端モデルへの事前展開アクセスを共有しておらず、執行上の課題が浮き彫りになった。
役割と責任
米国AISIは、最も高性能で潜在的にリスクのあるシステムであるフロンティアAIモデルの評価に焦点を当てている。その責任には、評価方法の開発、安全テストの実施、モデル開発者向けのガイダンスの発行が含まれる。同研究所はまた、Machine learningやDeep learning技術に関連するリスクの軽減にも取り組んでおり、モデルの堅牢性、透明性、人間の価値観との整合性などの問題に対処している。また、ホワイトハウス科学技術政策局などの他の連邦機関と協力し、政府全体でのAI安全活動を調整している。同研究所の活動は、OpenAI、Anthropic、Google DeepMindなどの主要なAIラボや、MIT CSAILやStanford AI Labなどの学術機関からの研究に基づいている。
国際協力
国際的なAI安全研究所ネットワークの一部として、米国AISIは共同演習や知識共有に参加している。2025年7月には、ネットワークはAIエージェントの評価に関する問題、特に機密情報の漏洩やサイバーセキュリティの脅威を調査する演習を開催した。メンバーはまた、Neural network研究の主要会議であるNeurIPS 2025（サンディエゴ）でも会合を持った。米国AISIは、英国、日本、韓国を含む複数の国と二国間協定を結び、評価基準の調和と技術的専門知識の共有を図っている。この協力は、AIモデルが国境を越えて開発・展開されるため、世界的なAIリスクに対処する上で不可欠である。
CAISIへの進化
2025年、米国AISIはAI標準・イノベーションセンター（CAISI）に改名された。この変更は、安全性の確保だけでなく、イノベーションの促進とAI標準の開発というより広範な任務を反映している。CAISIは引き続きNISTの下で運営され、産業界が採用できる自主的なガイドラインと枠組みの作成に焦点を当てている。この改名は、厳格な義務付けよりも柔軟性と市場主導の解決策を重視する米国政府のAI規制アプローチと一致している。CAISIは、Amazon Web Services、Microsoft Azure、Google Cloudなどの主要テクノロジー企業を含む産業関係者と緊密に連携し、安全対策が実用的であり、技術進歩を阻害しないことを確保している。
影響と課題
米国AISIはAI安全の状況に大きな影響を与え、国内および国際政策の両方に影響を及ぼしている。その評価はモデル展開に関する決定に情報を提供し、企業に安全慣行の改善を促してきた。しかし、同研究所は限られたリソースやAI開発の急速なペースなどの課題に直面している。批評家は、自主的なガイドラインでは害を防ぐには不十分かもしれないと主張する一方、過剰規制を懸念する声もある。同研究所の有効性は、現代のAIシステムの基盤となるTransformer (architecture)アーキテクチャやMulti-Head Attentionメカニズムなどの新技術に適応する能力に依存している。2025年現在、同研究所は進化を続けており、評価能力の強化と国際的なリーチの拡大に向けた取り組みが進行中である。
関連する動向
他の国々も同様の研究所を設立し、世界的なネットワークを形成している。例えば、英国AISIは当初ロンドンに拠点を置いていたが、2024年5月にAI企業に近づくためサンフランシスコに事務所を開設した。2024年2月に設立された日本のAISIは、情報処理推進機構の一部であり、約23人を雇用している。2024年11月に設立された韓国のAISIは、盆唐区に拠点を置き、年間1千万〜2千万ウォンの投資を受けている。これらの研究所はベストプラクティスを共有し、2025年7月のAIエージェント演習などの共同プロジェクトで協力している。米国AISIのこのネットワークにおける役割は、同国のAI開発におけるリーダーシップと豊富なリソースを考えると中心的である。
今後の方向性
今後、米国AISI（現在のCAISI）は、AIエージェントや自律システムの安全性などの新たな課題に焦点を当てると期待されている。Waymo自動運転車やTeslaで使用されるような、現実世界で行動を起こすモデルのための新しい評価方法を開発する可能性が高い。また、医療や金融などの重要分野でのAIに関連する問題にも取り組むかもしれない。そこでは、失敗が深刻な結果をもたらす可能性がある。AI技術が進歩するにつれて、堅牢な安全対策の必要性はますます高まり、同研究所の使命はますます重要になるだろう。国際的なAI安全研究所ネットワークは、世界的な取り組みを調整し、AIの利益を実現しながらリスクを最小限に抑える上で引き続き重要な役割を果たすだろう。
結論
米国AI安全研究所（現在のAI標準・イノベーションセンター）は、AIリスクを管理するための米国政府戦略の重要な構成要素である。2023年に設立され、急速に変化する技術環境の課題に対応するために進化してきた。評価、ガイドライン、国際協力を通じて、同研究所は高度なAIシステムが安全に開発・展開されることを確保することを目指している。課題は残るものの、同研究所の活動はAIへの信頼構築と社会を潜在的な害から守るために不可欠である。AIが生活のあらゆる側面に浸透し続ける中、米国AISIの使命は責任あるAIガバナンスの基盤であり続けるだろう。