米国AI安全研究所（AISI）は、国立標準技術研究所（NIST）内に設置された政府支援組織であり、高度な人工知能（AI）モデル、いわゆるフロンティアAIの評価と安全性の確保を任務としている。2023年11月、英国で開催されたAI安全サミットにおいて、英国のAI安全研究所とともに設立された。この研究所は、AI安全性のための測定科学、標準、およびガイドラインの開発に焦点を当てており、フロンティアモデルの導入前テストを含む。2025年、米国AISIは、AI標準・イノベーションセンター（CAISI）に改名され、標準設定とイノベーションにおける拡大された役割を反映している。
設立と初期活動
米国AISIは、米国商務省の機関であるNISTの一部として創設された。その設立は、AI安全性への懸念の高まり、特に2023年に高度なAIからの潜在的な存在リスクに関する公の宣言を受けて行われた。2023年11月のAI安全サミットで、米国と英国はそれぞれの研究所の設立を発表した。米国AISIの初期の使命には、フロンティアAIモデルの評価方法の開発が含まれており、これらのモデルは、OpenAI、Anthropic、およびGoogle DeepMindなどの企業によって開発されることが多い。2024年4月、米国と英国のAISIは、少なくとも1つの共同安全テストで協力することに合意し、評価手順の調和を目指した。しかし、Politicoが2024年4月に報じたところによると、多くのAI企業は、評価のために最も先進的なモデルへの導入前アクセスをまだ共有しておらず、一部は研究所が共通のルールに合意するのを待っていた。
##国際ネットワークと協力
2024年5月のAIソウルサミットで、国際的なリーダーは、英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、および欧州連合を含むAI安全研究所のネットワークを形成することに合意した。米国AISIはこのネットワークに参加しており、安全性評価の調整とベストプラクティスの共有を目指している。2025年7月、ネットワークは、AIエージェントの評価に関する問題、特に機密情報の漏洩やサイバーセキュリティに関する問題を探るための演習を開催した。ネットワークメンバーは、サンディエゴで開催されたNeurIPS 2025でも会合を持った。米国AISIはまた、英国のAI安全研究所（後にAI安全保障研究所と改名）や日本のAISIなどの他の国の研究所とも協力し、グローバルなAI安全基準を推進している。
##役割と機能
米国AISIは、測定科学と標準開発で知られるNISTの下で運営されている。研究所の主要な機能には、フロンティアAIモデルの評価の実施、テスト方法論の開発、およびAI安全性と信頼性のためのガイドラインの作成が含まれる。政府と民間部門の利害関係者、AI開発者や研究者を含む、と協力している。研究所はまた、国際標準の取り組みにも貢献しており、NISTのより広い使命と一致している。2025年現在、研究所はCAISIに改名されているが、AI標準とイノベーションへの核心的な焦点は変わらない。研究所は、機械学習や生成AIなどの分野でのイノベーションを促進しながら、AIリスクを管理するためのより広い米国政府戦略の一部である。
##他のAI安全活動との関係
米国AISIは、英国のAI安全研究所などの他の国のAI安全機関とは異なる。英国の研究所はロンドンに設立され、後に2024年5月にサンフランシスコに事務所を開設した。米国の研究所はまた、2024年5月に設立されたEU AIオフィスや、国際ネットワークの他のメンバーと調整している。米国AISIは国内の標準と評価に焦点を当てている一方で、AIソウルサミットやその後の会合を含むAI安全性に関するグローバルな議論に参加している。研究所の仕事は、バークレーAIリサーチラボやMIT CSAILなどの他の組織の仕事と補完的であり、これらはAI安全性に関する学術研究を行っている。しかし、米国AISIの主要な役割は、純粋に研究指向ではなく、規制と標準に基づくものである。
##将来の方向性
2025年現在、米国AISI（現在はCAISI）は、特にフロンティアAIモデルがより能力を持つようになるにつれて、AI標準と評価に関する仕事を継続することが期待されている。研究所は、大規模言語モデルや深層学習などの分野で、米国AI政策を形成する上で重要な役割を果たす可能性が高い。CAISIへの改名は、安全性だけでなく、イノベーションを育成することを含むより広い任務を示唆している。研究所はまた、より多くの国を含むように拡大する可能性がある国際ネットワークへの参加を継続するだろう。AI技術が進化するにつれて、米国AISIは、AIエージェントや自律システムからのものなど、新しいリスクに対処するために評価方法を適応させる必要があるだろう。研究所の成功は、産業界、学界、および国際パートナーと協力する能力に依存するだろう。