EU AI法の投票とは、2024年3月14日に開催された欧州議会の本会議投票を指し、欧州連合（EU）内における人工知能に関する包括的な法的枠組みを確立する画期的な規制であるAI法（Artificial Intelligence Act）が正式に承認されたことを示す。フランス・ストラスブールで行われたこの投票では、欧州議会議員（MEP）523名が賛成、46名が反対、49名が棄権し、2023年12月にEU理事会との三者協議で合意された文書が承認された。この承認は、2021年4月に欧州委員会がAI法を初めて提案した際に開始された立法プロセスの集大成であり、AIシステムを特に対象とする拘束力のある規則を制定した最初の主要な法域としてのEUの地位を確立した。
AI法はリスクベースのアプローチを採用し、AIアプリケーションを4つの層に分類している：許容不可能なリスク（禁止）、高リスク（厳格な義務の対象）、限定的リスク（透明性要件）、最小リスク（自主的な行動規範）。禁止される慣行には、政府による社会的スコアリング、法執行目的での公共空間におけるリアルタイムの遠隔生体認証（狭い例外を除く）、操作・搾取的なAIシステムが含まれる。重要インフラ、教育、雇用、医療、法執行で使用されるものなどの高リスクAIシステムは、リスク管理、データガバナンス、技術文書、透明性、人間による監視、堅牢性に関する要件を遵守しなければならない。基盤モデルを含む汎用目的AIモデルは追加の義務に直面し、システムリスクのあるモデルはより厳格な評価とインシデント報告の対象となる。
この投票はArtificial intelligenceの世界的なガバナンスにおける極めて重要な出来事であり、他の法域にとっての先例となった。この規則は2024年8月1日に発効し、段階的な実施スケジュールが設定された：許容不可能なリスクの慣行の禁止は2025年2月から、汎用目的AIの義務は2025年8月から、高リスクシステムの完全適用は2026年8月までに適用される。AI法はまた、実施と執行を監督するために欧州委員会内に欧州AIオフィスを設立した。
立法背景
AI法の起源は、信頼できるAIを促進しつつリスクに対処するための政策オプションを概説した欧州委員会の2020年AI白書に遡る。2021年4月の委員会の正式提案は、規制枠組みを求める欧州議会の決議に続くものであった。この提案は広範な交渉を経て、理事会は2022年12月に一般方針を採択し、議会は2023年6月に交渉立場に達した。三者協議は2023年12月に終了し、イノベーションと基本権保護のバランスを取った妥協文書が作成された。
このプロセスにおける主要な議論は、AIの定義、禁止される慣行の範囲、汎用目的AIの扱いに集中した。最終文書は、機械学習および論理ベースのシステムを含むように定義を拡大し、Large language modelのようなシステムを含む基盤モデルに対する段階的義務を導入した。2024年3月14日の議会の投票は、2024年5月21日に理事会による正式採択が行われる前の最終的な立法ステップであり、その後2024年7月12日に官報で公表された。
リスクベースの枠組み
AI法の中心的な革新は、そのリスクピラミッドであり、潜在的な害に応じて規制の強度を調整する。許容不可能なリスクのAIは完全に禁止され、行動を歪めるための subliminal テクニックを使用するシステム、特定グループの脆弱性を搾取するシステム、社会的行動に基づいて人々を評価・分類するシステム（社会的スコアリング）、または司法当局の承認を得た狭く定義された重大犯罪シナリオを除き、法執行目的で公共空間におけるリアルタイムの遠隔生体認証を使用するシステムが含まれる。
高リスクAIシステムは適合性評価の対象となり、データ品質、トレーサビリティ、透明性、人間による監視、正確性に関する基準を満たすことが求められる。提供者はリスク管理システムを実装し、技術文書を維持し、EUデータベースに登録しなければならない。医療機器や車両などの製品に組み込まれた高リスクシステムについては、AI法は既存のセクター別法律と整合し、指定機関が関与する適合性評価手順を要求する。
チャットボットやディープフェイクなどの限定的リスクAIは、ユーザーがAIシステムと対話していることやコンテンツがAI生成であることを開示し、透明性を確保しなければならない。スパムフィルターやビデオゲームなどのほとんどの消費者向けアプリケーションを含む最小リスクAIは、既存の法律を超える追加の義務には直面しないが、同法は自主的な行動規範を奨励している。
汎用目的AIと基盤モデル
交渉中に行われた重要な追加は、Generative AIアプリケーションの基礎となるものを含む、幅広いタスクを実行できる汎用目的AI（GPAI）モデルの規制である。AI法は、GPAIモデルとシステムリスクのあるGPAIモデルを区別し、後者は高い計算能力（10^25 FLOPsを超える）または国内市場への影響によって定義される。GPAIモデルの提供者は、技術文書を維持し、下流の開発者に情報を提供し、著作権法を遵守しなければならない。システムリスクのあるモデルは、モデル評価の実施、敵対的テスト、システムリスクの評価と緩和、重大インシデントの報告などの追加の義務に直面する。
この枠組みは、OpenAI、Anthropic、Google DeepMindのような大規模モデルを生産する先進的なAIシステムの開発者に直接影響を与える。2024年2月に設立された欧州AIオフィスは、コンプライアンスのための行動規範の開発を含むGPAI執行を監督する。
執行とガバナンス
AI法は多層的なガバナンス構造を創設する。欧州委員会は、欧州AIオフィスを通じて、GPAIおよびシステムリスクのあるモデルの監視において中心的な役割を果たす。各国の監督当局で構成される欧州AI理事会は、加盟国間での一貫した適用を確保する。国の当局は、他のAIシステムの市場監視と執行に責任を負う。
違反に対する罰則は substantial であり、禁止された慣行については最大3500万ユーロまたは世界年間売上高の7%、その他のほとんどの義務の違反については1500万ユーロまたは3%、誤った情報の提供については750万ユーロまたは1.5%である。これらの罰金は違反を抑止するように設計されており、GDPRの執行アプローチを反映している。
同法はまた、規制サンドボックスメカニズムを確立し、公共当局が展開前に革新的なAIシステムをテストするための管理された環境を提供できるようにし、コンプライアンスを確保しつつイノベーションを促進することを目指している。
世界的な影響と反応
EU AI法の投票は、AIガバナンスにおける画期的な瞬間として広く見なされた。これは、2023年10月の米国のAIの安全・確実・信頼できる開発と使用に関する大統領令や、2024年5月の欧州評議会のAI枠組み条約を含む、世界中の立法努力に影響を与えた。産業界の反応は賛否両論で、一部の企業は規制の明確さを歓迎した一方、他の企業はコンプライアンスコストとイノベーションの阻害の可能性について懸念を表明した。市民社会組織は一般に、基本権に対処する同法を賞賛したが、法執行の免除などの一部の規定は寛容すぎると主張する者もいた。
学者や研究者は、同法のリスクベースのアプローチが他の地域のモデルとなると指摘したが、特にAI技術の動的な性質と技術標準の必要性に関して、実施における課題も強調した。同法の域外適用は、EU外の提供者や導入者にも、そのシステムがEUユーザーに影響を与える場合に適用され、世界的な影響力を拡大している。
実施スケジュール
AI法の段階的な実施は、利害関係者が適応できるように設計されている。主な日付は以下の通り：
- 2024年8月1日：発効。
- 2025年2月2日：許容不可能なリスクの慣行の禁止が適用。
- 2025年8月2日：GPAIモデルとガバナンス条項の義務が適用。
- 2026年8月2日：附属書IIIにリストされた高リスクシステム（例：雇用、教育、法執行）の完全適用。
- 2027年8月2日：規制製品に組み込まれた高リスクシステムの完全適用。
この段階的なスケジュールは、規制の確実性と実用的な準備のバランスを取ることを目的としており、欧州委員会はコンプライアンスを支援するためのガイドラインと標準を発行する任務を負っている。
AI開発への意義
EU AI法の投票は、Machine learningおよび関連技術の軌道を形成するための集団的な政治的決定を表している。明確な境界を設定することにより、同法は信頼できるAIを育成し、準拠するシステムへの投資を奨励しつつ基本権を保護することを目指している。また、国際的に事業を展開する企業が単一市場にアクセスするためにEU規則に合わせることを選択する可能性があるため、世界的な標準に影響を与える規制ベンチマークを創設する。
研究者や開発者にとって、同法はトレーニングデータの文書化や透明性の確保などの新しい責任を導入する。また、Neural network研究、特にモデル能力が急速に進化するDeep learningのような分野の将来についての疑問も提起する。システムリスクに関する同法の規定は、フロンティアAI研究所に特に関連しており、これらの研究所は現在、より広範な社会的影響を考慮しなければならない。
要約すると、EU AI法の投票は単なる手続き上の出来事ではなく、人工知能のガバナンスにおける基盤となる瞬間であり、技術、法律、社会に広範囲にわたる影響を及ぼしている。