米国のAI安全性は、米国政府がArtificial intelligenceによる潜在的な害を理解し軽減しようとする政策、機関、技術的プログラムを包含する。これらの取り組みは、Large language modelやGenerative AIツールを含む高度なMachine learningシステムがより高性能かつ広く展開されるにつれて強化されてきた。このアプローチは、自主的な業界コミットメント、連邦政府による研究と評価、規制ガイダンスを組み合わせ、バイアスや悪用などの短期的リスクと、自律システムに関する長期的懸念の両方に焦点を当てている。
連邦調整と研究所
米国のAI安全性の中心要素は、2023年に国立標準技術研究所（NIST）内に設立された米国AI安全研究所（AISI）である。AISIは、最先端のAIモデルの試験と評価を実施し、安全ガイドラインを策定し、国際的な対応機関と協力している。これは、2023年10月のバイデン政権による「人工知能の安全かつ確実で信頼できる開発と使用に関する大統領令」から生まれ、NISTに研究所の設立を指示した。この命令はまた、重要インフラのリスク評価を義務付け、最も強力なモデルの開発者に対し、安全性試験結果を政府と共有することを要求した。
AISIに加えて、ホワイトハウスはAIタスクフォースと、後に国土安全保障省の下にAI安全セキュリティ委員会を設立した。これらの機関は、国防総省、エネルギー省、国立科学財団などの省庁の関係者を結集している。その業務には、エネルギー、医療、運輸などの分野でのAI応用の評価や、連邦政府によるAIシステム調達が安全基準を満たすことの確保が含まれる。
自主的コミットメントと業界関与
米国政府は、主要なAI開発者との自主的な合意に大きく依存してきた。2023年7月、ホワイトハウスは、OpenAI、Anthropic、Google DeepMindなどの主要企業から、外部レッドチームテストの実施、AI生成コンテンツの透かし、安全性インシデントに関する情報共有を確約させた。これらのコミットメントに続き、2024年には、リリース前のモデル評価やサイバーセキュリティ対策への投資などのテーマをカバーする、より広範な誓約が行われた。
法的拘束力はないものの、これらの合意は業界の慣行を形成してきた。AISIはまた、企業と直接協力して最先端モデルのリリース前評価を実施し、結果が安全性レポートで公開されることもある。この協力モデルは、イノベーションと監視のバランスを取ることを目的としているが、批評家は自主的措置には執行メカニズムが欠けていると主張している。
技術研究と評価
米国のAI安全性には、モデルの安全性を測定・向上させるための技術研究への substantial な投資が含まれる。NISTは、AIリスクを特定・管理するための自主的なガイドラインセットであるAIリスク管理フレームワークを開発した。AISIの試験プロトコルは、有害コンテンツ生成、バイアス、モデルがサイバー攻撃や生物兵器の作成を支援する可能性などの領域をカバーしている。
連邦機関はまた、解釈可能性、堅牢性、整合性などのAI安全性トピックに関する学術研究に資金を提供している。国立科学財団は、AIの社会的影響の研究を支援するプログラムを開始し、国防高等研究計画局（DARPA）は、AIシステムの検証と妥当性確認の方法を探求している。これらの取り組みは、モデルが予測不能に動作したり、意図された目的から逸脱したりする場合を検出できるツールの作成を目指している。
立法と規制の状況
米国のAI安全性は、行政措置と提案された法律の組み合わせを通じて進化してきた。2025年時点で、議会は包括的なAI安全性法案を可決していないが、いくつかの法案が提出されている。これには、高リスクAIアプリケーションの影響評価を要求する提案、連邦AI監視機関の創設、トレーニングデータの開示義務付けなどが含まれる。カリフォルニア州やコロラド州を中心とした州レベルの取り組みも、透明性とリスク管理の要件を導入しているが、これらは大きく異なる。
規制機関は既存の権限の範囲内で行動してきた。連邦取引委員会は欺瞞的なAI慣行を調査し、雇用機会均等委員会はアルゴリズムによる採用に関するガイダンスを発行し、消費者金融保護局は融資におけるAIに対処している。これらの行動は、統一された連邦法ではなく、セクター別のアプローチを反映している。
国際協力と課題
米国のAI安全性の取り組みは、国際協力と密接に関連している。米国は、2024年に開始された英国、欧州連合、その他の国々を含む国際AI安全研究所ネットワークに参加している。このネットワークは、共同試験演習とベストプラクティスの共有を促進する。米国はまた、G7や国連などの多国間フォーラムにも関与し、共通の安全原則を提唱している。
課題は依然として大きい。AI開発の急速なペースは規制プロセスを上回ることが多く、米国の統治の分散的性質は、連邦ガイダンスがすべての関係者に適用されないことを意味する。さらに、Deep learningや強化学習を通じて進化し得るシステムの「安全性」をどのように定義・測定するかについて、継続的な議論がある。2025年時点で、米国はArtificial intelligenceのイノベーション促進と公共福祉保護の義務のバランスを取りながら、そのアプローチを洗練し続けている。