EU AI Act交渉は、欧州委員会、欧州議会、および欧州連合理事会の間で開催された一連の三者会合であり、人工知能法（AI Act）の本文を最終化するために行われた。交渉は2023年12月8日の政治的合意をもって終了し、その後、同法は2024年3月13日に欧州議会で正式に採択され、2024年5月21日に理事会で承認された。この規則は2024年8月1日に発効し、その規定はその後6か月から36か月にわたって段階的に適用された。
AI Actは、EU内における人工知能のための共通の規制および法的枠組みを確立する。これは、軍事、国家安全保障、研究目的、または非専門的利用にのみ使用されるAIを除き、幅広い分野にわたるほとんどのAIシステムを対象とする。製品規制の一形態として、個人の権利を創設するものではなく、AIプロバイダーおよび専門的状況でAIを使用する組織に義務を課すものである。
背景と提案
欧州委員会は2021年4月21日にAI Actを提案した。初期草案は、AI倫理および製品安全規制における以前の作業に基づき、AIアプリケーションのリスクベースの枠組みに焦点を当てていた。この提案は、立法過程で広範な審査と修正を受けた。
生成AIシステム、例えばOpenAIのChatGPTの台頭は、当初の枠組みに対する課題を提示した。これらの汎用モデルは幅広いタスクを実行でき、事前定義されたリスクカテゴリにきれいに適合しなかった。草案はこれを対処するために修正され、汎用AIのための特定のカテゴリが追加された。
三者会合交渉
三者会合交渉は、立法提案に関する異なる立場を調整するために、欧州議会、理事会、および欧州委員会の代表者間で行われる非公式な三者会議である。AI Actの場合、これらの交渉は、欧州議会が2023年6月に交渉立場を採択し、理事会が2022年12月に一般方針に合意した後に開始された。
三者会合では、高リスクAIの定義、基盤モデルの扱い、公共空間でのリアルタイム遠隔生体認証の使用など、いくつかの論争点が取り上げられた。欧州議会は生体監視に関するより厳格な規則と汎用AIに対するより堅牢な義務を求めた一方、理事会はイノベーションと消費者保護のバランスを取ろうとした。
以前の草案は、委員会投票で欧州議会によって拒否され、修正された任務につながった。最終的な政治的合意は、早朝まで続いた長時間の交渉の末、2023年12月8日に達せられた。
主な成果
AI Actの最終本文は、許容不能、高、限定、および最小リスクの4段階のリスク分類を導入した。許容不能なリスクを持つアプリケーションは、特定の免除を除き、禁止される。高リスクのアプリケーションは、セキュリティ、透明性、および品質義務を遵守し、適合性評価を受けなければならない。限定リスクのアプリケーションには透明性義務があり、最小リスクのアプリケーションは規制されない。
2023年に汎用AIのための新しいカテゴリが追加された。これには、幅広いタスクを実行できる基盤モデルが含まれる。モデルの重みと設計がオープンソースにされた場合、開発者はトレーニングデータの要約と著作権ポリシーを公開しなければならない。クローズドソースモデルは、より広範な透明性要件を満たさなければならない。システム的リスクをもたらす高影響モデル（トレーニングに10^25浮動小数点演算以上を必要とする）は、追加の評価を受けなければならない。
この法律はまた、国家間の協力を促進し、コンプライアンスを確保するために、欧州人工知能委員会を設立した。EUの一般データ保護規則と同様に、この法律は、EU内にユーザーがいる場合、EU外のプロバイダーにも域外適用される可能性がある。
リスクカテゴリの詳細
許容不能なリスクには、人間の行動を操作するAIアプリケーション、公共空間でのリアルタイム遠隔生体認証（顔認識など）の使用、または社会的スコアリングに使用されるものが含まれる。これらは、狭い免除を除き、禁止される。
高リスクのアプリケーションには、健康、教育、採用、重要インフラ管理、法執行、または司法で使用されるAIシステムが含まれる。これらは、品質、透明性、人間による監視、および安全性の義務の対象となる。一部は、展開前に基本権影響評価（FRIA）を必要とする。市民は、苦情を提出し、自分の権利に影響を与える高リスクAIによる決定の説明を受ける権利を有する。
限定リスクには、画像、音声、または動画を生成または操作するAIシステム（ディープフェイクなど）が含まれ、ユーザーにAIと対話していることを通知しなければならない。最小リスクには、ビデオゲームやスパムフィルターが含まれ、これらは規制されておらず、最大調和規則により、加盟国は追加の規制を課すことはできない。
汎用AIの義務
汎用AIモデルのプロバイダーは、トレーニングデータの要約を公開し、著作権法を遵守するポリシーを採用し、下流プロバイダーおよび監督当局に技術文書を提供しなければならない。システム的リスクをもたらすと指定されたモデルは、モデル評価と敵対的テストを実施し、バイアスやセキュリティ障害などのリスクを評価および軽減し、重大なインシデントを報告し、適切なサイバーセキュリティを確保しなければならない。
2025年7月10日に公開された汎用AI行動規範は、透明性、著作権、および安全性とセキュリティに関する3つの主要な章を概説し、プロバイダーがコンプライアンスを実証するのに役立つ。規範への参加は任意である。
免除と域外適用
第2.3条および第2.6条は、軍事または国家安全保障目的、または純粋な科学研究開発に使用されるAIシステムをAI Actから免除する。この規則は、AIシステムが軍事、防衛、または国家安全保障目的に排他的に使用される場合、またはそのような理由のみで開発および運用されるシステムには適用されない。
この法律は、EU内にユーザーがいる場合、EU外のプロバイダーにも適用される可能性があり、GDPRの域外適用と同様である。これは、米国、中国、または他の場所に拠点を置く企業が、EU居住者にAIサービスを提供する際にコンプライアンスを遵守しなければならないことを意味する。
実施スケジュール
AI Actは2024年8月1日に発効した。規定は、その後6か月から36か月にわたって段階的に運用される。最初のマイルストーンには、許容不能なリスクのAIアプリケーションの禁止が含まれ、2025年2月に発効した。汎用AIモデルに関する義務は2025年8月から適用される見込みであり、高リスク規則の完全な適用は2027年までに予定されている。
重要性
AI Actは、世界で初めての包括的なAIの法的枠組みを表す。これは、米国や中国を含む他の管轄区域の政策議論に影響を与えてきた。交渉は、イノベーションと基本権保護のバランスを取りながら、リスクベースの製品安全モデルを通じて新興技術を規制するEUのアプローチを示した。
この法律の成功は、国家当局および欧州人工知能委員会による実施と執行に依存する。2025年現在、コンプライアンスを支援するための多くの技術標準およびガイダンス文書がまだ開発中である。