AIガバナンスとは、人工知能の開発と展開を形作る国内および国際的な法律、規制、基準、制度を指す。この分野はAI安全性とAI倫理の交差点に位置し、アルゴリズムバイアス、ハルシネーション、長期的なAIによる実存的リスクといったAIに関する技術的・社会的懸念を、拘束力のある規則、自主的なコミットメント、監視機関に変換する。ガバナンスのアプローチは管轄区域によって大きく異なり、包括的なリスクベースの規制から、業界の自主的なガバナンスに依存するより軽い枠組みまで多岐にわたる。
主要な規制枠組み
2020年代半ば時点で最も包括的な拘束力のある法律は、2024年に欧州連合が採択したEU AI法であり、AIアプリケーションをリスク層に分類し、ソーシャルスコアリングなどの禁止用途から、生体認証や採用ツールを含む厳重に規制された「高リスク」カテゴリーまでを対象とし、大規模言語モデルのチャットボットなどの汎用システムには軽い透明性義務を課している。米国では、ガバナンスは単一の包括的な法令よりも、大統領令や分野別の規則を通じて進められてきた。バイデン大統領の2023年10月のAIに関する大統領令は、連邦機関に安全性テストと報告要件の開発を指示し、その後継政権は米国の競争力を重視した規制緩和の姿勢へとシフトした。中国は生成AIサービスに関する独自の拘束力のある規則を発行し、公衆向けシステムにセキュリティ評価とコンテンツラベル付けを義務付けている。英国、日本、カナダを含む他の管轄区域は、一般的に包括的な立法よりもガイダンスベースまたは分野別のアプローチを好んでいる。
国際的な協調
各国政府はまた、拘束力のある法律の枠外で自主的な国際協調を追求してきた。2023年11月に英国のAI安全サミットで28か国が署名したブレッチリー宣言は、AIが深刻な、さらには壊滅的なリスクをもたらす可能性を認識した最初の主要な多国間声明であり、韓国とフランスでの一連のフォローアップサミットを開始した。並行して、英国AI安全研究所やNIST内に設置された米国AI安全研究所など、いくつかの国が専用のAI安全研究所を設立し、最先端モデルをリリース前または直後に独立してテストする任務を負っている。経済協力開発機構と国連も、多くの政府が国内政策を策定する際に参照する非拘束的なAI原則を発行している。
業界のコミットメント
政府規制に加えて、OpenAI、Anthropic、Google DeepMindを含む最先端AI開発企業は、独自の自主的なガバナンス枠組みを公開しており、これはしばしば責任あるスケーリングポリシーまたは準備フレームワークと呼ばれ、モデルが定義された能力閾値を超えた場合に特定の安全性評価と緩和策を実施することを約束するものである。これらについてはAnthropicの原則の記事でさらに詳しく議論されている。企業はまた、主要なリリースに先立って、政府の安全研究所による外部のレッドチーミングと評価にモデルを提出しており、この慣行はブレッチリーサミット後に勢いを増した。
議論
AIガバナンスはいくつかの軸で論争が続いている。一部の研究者や政策立案者は、規制はバイアスや誤情報などの具体的で現在進行形の害に焦点を当てるべきであり、投機的な将来リスクに焦点を当てるべきではないと主張する。他方では、能力向上のペースを考慮すると、規制の注意は低確率だが壊滅的なシナリオにより重きを置くべきだと主張し、この対立はスケーリング則と創発的能力の解釈をめぐるより広い不一致を反映している。別の議論は、規制が汎用の基盤モデル自体を対象とすべきか、特定の下流アプリケーションのみを対象とすべきかに関するものであり、EU AI法は汎用システムに軽い透明性重視の義務を課し、高リスク用途に重い義務を課すことで部分的にこの問題を調和させている。業界のロビー活動、規制の捕捉への懸念、規制の緩い管轄区域との競争は、永続的な国際合意を達成する取り組みをさらに複雑にしている。