国立標準技術研究所（NIST）は、人工知能の安全性と信頼性に関する包括的なプログラムを開発してきた米国連邦機関である。NIST AIは、組織がAIシステムに関連するリスクを管理するのに役立つように設計された、自主的な枠組み、標準、およびテストリソースのセットを包含している。この分野における同機関の取り組みは、NISTにAI安全性における連邦政府の取り組みを主導するよう指示した2023年の人工知能の安全かつ確実で信頼できる開発と利用に関する大統領令に続いて、大きな勢いを得た。
NISTの主要な貢献は、2023年1月に初版が発行されたAIリスク管理フレームワーク（AI RMF）である。このフレームワークは、組織がAIライフサイクル全体を通じてリスクを特定、評価、および軽減するための構造化されたアプローチを提供する。これは、Govern、Map、Measure、Manageという4つの中核機能を中心に構成されており、自主的で、さまざまなセクターに適応できるように設計されている。このフレームワークは、有効性、信頼性、安全性、セキュリティ、回復力、説明責任、透明性、公平性などの原則を強調している。
AI RMFおよび関連出版物
AI RMF 1.0は、公開コメントやワークショップを含む複数の利害関係者によるプロセスを経て、2023年1月26日にリリースされた。NISTはその後、2024年7月にAI RMF生成AIプロファイルを公開し、Generative AIシステム、特にLarge language modelによってもたらされる固有のリスクに対処した。このプロファイルは、幻覚、有害なバイアス、悪用の可能性などの問題をカバーしている。NISTはまた、AI向けのセキュアソフトウェア開発とAIインシデントの分類に関する補足文書もリリースした。
RMFに加えて、NISTは他のいくつかのAI関連出版物も発行している。AI RMFプレイブックは、フレームワークを実装するための実践的なガイダンスを提供する。NISTはまた、2024年3月に公開された敵対的機械学習（AML）分類法を開発し、Machine learningシステムへの攻撃を分類し、軽減戦略を提供している。これらのリソースは、産業界、学界、政府にわたるAI開発者、展開者、評価者が使用することを目的としている。
テストおよび評価プログラム
NISTは、AIシステムの性能と安全性を評価するための指標と方法を開発することを目的としたAIテスト、評価、検証、および検証（TEVV）プログラムを運営している。これには、AI機能を評価するためのテストベッドとベンチマークデータセットの作成が含まれる。2024年、NISTは商務省の下に設立された米国AI安全研究所（AISI）を立ち上げ、NISTが技術的リーダーシップを提供した。AISIは、AI安全性に関する研究を実施し、テストプロトコルを開発し、国際パートナーと協力している。
注目すべき取り組みの1つは、生成AI技術の評価に焦点を当てたGenAIプログラムである。このプログラムは、AI生成コンテンツの品質、安全性、信頼性を評価するための測定ツールを開発する。NISTはまた、AIリスクに関する科学的知識を総合する世界的な取り組みである国際AI安全報告書にも参加している。
標準および国際協力
NISTは、国際標準化機構（ISO）や国際電気標準会議（IEC）などの組織との関与を通じて、国際的なAI標準の開発において重要な役割を果たしている。NISTは、AI管理システムに関するISO/IEC 42001標準と、AIリスク管理に関するISO/IEC 23894標準に貢献している。同機関はまた、国家サイバーセキュリティセンター・オブ・エクセレンス（NCOE）と協力して、AI安全性をより広範なサイバーセキュリティ実践に統合している。
NISTのAIに関する取り組みは、Artificial intelligenceおよびDeep learningにおけるより広範な研究に基づいている。同機関の情報技術研究所は、コンピュータビジョン、自然言語処理、Neural networkの堅牢性などの分野で基礎研究を実施している。この研究は、実用的なガイドラインとテスト方法の開発に役立っている。
課題と今後の方向性
NIST AIは、急速な技術進歩に追いつくという継続的な課題に直面している。AI RMFの自主的な性質は、採用が必須ではないことを意味するが、連邦機関はますますそれに整合することが求められている。NISTは、AI対応のサイバー攻撃、プライバシーリスク、AIトレーニングの環境影響などの新たな問題に対処するために、ガイダンスを更新し続けている。2025年現在、NISTはヘルスケアや金融などの特定セクター向けの追加プロファイルを開発し、フロンティアAIモデル向けのテスト機能を拡張している。
同機関の取り組みは、MIT CSAILやStanford AI Labなどの学術機関、および業界パートナーとの協力によって補完されている。NISTはまた、AIシステムが国境を越えて運用されることが多いことを認識し、国際機関と連携してAI安全標準を世界的に調和させている。
AIエコシステムへの影響
NIST AIフレームワークは、組織がAIガバナンスに取り組む方法に影響を与えてきた。OpenAI、Anthropic、Google DeepMindなどの主要テクノロジー企業は、その安全慣行においてAI RMFを参照している。このフレームワークはまた、同様のリスクベースの原則を利用する欧州連合のAI法など、政府機関や国際パートナーによっても採用されている。測定可能でテスト可能な基準に対するNISTの強調は、AI業界をより厳格な評価実践へと移行させるのに役立った。
その自主的な性質にもかかわらず、NIST AIは、米国およびそれ以外の地域でのAI安全性に関する議論の事実上の参照点となっている。その出版物は学術文献や業界レポートで広く引用されており、そのテストプログラムはAIシステムを評価するための中立的な場を提供している。AI機能が進化し続けるにつれて、特に自律システムやAI駆動の意思決定などの分野で、安全標準を定義するNISTの役割は拡大する可能性が高い。