人工知能法（AI法）は、EU域内の人工知能（AI）に関する共通の規制・法的枠組みを確立する欧州連合の規則である。2024年8月1日に発効し、その規定はその後6か月から36か月の間に段階的に適用される。この法律は、広範な分野にわたるほとんどのAIシステムを対象とするが、軍事、国家安全保障、研究目的、または非職業的使用にのみ使用されるAIは除外される。製品規制の一形態として、個人の権利を創設するものではなく、AIプロバイダーおよび職業的状況でAIを使用する組織に義務を課すものである。
この法律は、非免除のAIアプリケーションを害を引き起こすリスクに基づいて分類する。4つのレベル（許容不能、高、限定的、最小）に加え、汎用AIの追加カテゴリーがある。汎用AIについては、透明性要件が課され、オープンソースモデルには要件が軽減され、高能力モデルには追加の評価が課される。また、この法律は、国家間の協力を促進し、規則の遵守を確保するための欧州人工知能委員会を設立する。EUの一般データ保護規則と同様に、この法律は、EU域内にユーザーがいる場合、EU外のプロバイダーにも域外適用される可能性がある。
立法経緯
欧州委員会は2021年4月21日にAI法を提案した。2024年3月13日に欧州議会を通過し、2024年5月21日にEU理事会で全会一致で承認された。草案は、ChatGPTなどの生成AIシステムの普及に対応するため改訂され、その汎用能力は主要な枠組みに適合しなかった。汎用AIカテゴリーは2023年に追加され、大規模言語モデルやその他の生成AIシステムの急速な発展を反映したものである。
リスクカテゴリー
この法律はリスクベースのアプローチを採用し、AIシステムのプロバイダーおよび展開者に規制上の義務を割り当てる。これらの義務は、健康、安全、または基本権への潜在的な影響が増大するにつれて、より厳しくなる。カテゴリーは以下のとおりである。
- 許容不能リスク – このカテゴリーのAIアプリケーションは、特定の免除を除き、禁止される。これには、人間の行動を操作するAIアプリケーション、公共空間でのリアルタイム遠隔生体認証（顔認識など）を使用するもの、およびソーシャルスコアリング（個人の特性、社会経済的地位、または行動に基づいて個人をランク付けする）に使用されるものが含まれる。
- 高リスク – 健康、安全、または基本権に重大な脅威をもたらすと予想されるAIアプリケーション。これには、医療、教育、採用、重要インフラ管理、法執行、または司法で使用されるAIシステムが含まれる。これらは、品質、透明性、人間の監視、および安全性に関する義務の対象となり、場合によっては展開前に基本権影響評価が必要となる。市場に投入される前とライフサイクル全体の両方で評価されなければならない。市民は、AIシステムについて苦情を申し立て、自分の権利に影響を与える高リスクAIによる決定について説明を受ける権利を有する。
- 限定的リスク – このカテゴリーのAIシステムには透明性義務があり、ユーザーがAIシステムと対話していることを知らされることを保証する。これには、画像、音声、または動画を生成または操作するAIアプリケーション（ディープフェイクなど）が含まれる。
- 最小リスク – これには、ビデオゲームやスパムフィルターに使用されるAIシステムが含まれる。ほとんどのAIアプリケーションはこのカテゴリーに該当すると予想される。これらのシステムは規制されておらず、加盟国は最大限の調和規則により追加の規制を課すことはできない。そのようなシステムの設計または使用に関する既存の国内法は優先される。自主的な行動規範が提案されている。
リスクベースのスキームは製品安全モデルに従い、重大なリスクを生み出す可能性が高いシステムに監視を集中させ、あまり機密性の高くない用途にはより軽いアプローチを可能にする。一部の法学者は、実際には、この法律は「信頼できるAI」を、これらの安全性およびリスクのしきい値への準拠を示すことができるシステムとして枠組みしていると主張している。
汎用AIの義務
汎用AIカテゴリーには、幅広いタスクを実行できる基盤モデル（ChatGPTなど）が含まれる。汎用AIモデルのプロバイダーは、トレーニングデータの要約を公開し、著作権法に準拠するポリシーを採用し、下流のプロバイダーおよび監督当局に技術文書を提供する必要がある。モデルの重みと設計がオープンソース化されている場合、開発者はトレーニングデータの要約と著作権ポリシーを公開する必要がある。クローズドソースモデルは、より広範な透明性要件を満たす必要がある。
システム的リスクをもたらす高影響モデル（トレーニングに10^25回以上の浮動小数点演算を必要とする）は、追加の評価を受けなければならない。これらのモデルは、モデル評価と敵対的テストを実施し、バイアスやセキュリティ障害などのリスクを評価および軽減し、重大なインシデントを報告し、適切なレベルのサイバーセキュリティを確保する必要がある。
2025年7月10日に公開された汎用AI行動規範は、透明性、著作権、安全性とセキュリティに関する3つの主要な章を概説し、プロバイダーがAI法への準拠を示すのに役立つ。規範への参加は任意である。
免除
第2.3条および第2.6条は、軍事または国家安全保障目的、または純粋な科学研究開発に使用されるAIシステムをAI法から免除する。この規則は、AIシステムが専ら軍事、防衛、または国家安全保障目的で使用される場合、または専ら科学研究のために開発および運用されるシステムには適用されない。非職業的使用も免除される。
執行と域外適用
この法律は、国家間の協力を促進し、規則の遵守を確保するための欧州人工知能委員会を設立する。EUの一般データ保護規則と同様に、この法律は、EU域内にユーザーがいる場合、EU外のプロバイダーにも域外適用される可能性がある。これは、OpenAI、Anthropic、Google DeepMindなどの企業が、EUユーザーにサービスを提供する場合、この法律の対象となる可能性があることを意味する。
AI開発への影響
AI法の汎用AI規定は、AIシステムの開発と展開に重要な影響を与える。プロバイダーは、設計段階から透明性と著作権の義務を考慮する必要がある。トレーニングデータの要約を公開する要件は、独自モデルに影響を与える可能性がある一方、オープンソースモデルは要件が軽減され、よりオープンな開発を促進する可能性がある。高能力モデルのシステム的リスク評価は、非常に大規模なニューラルネットワークのトレーニングに影響を与える可能性があり、プロバイダーは安全性テストにリソースを割り当てる必要があるかもしれない。
この法律はまた、機械学習および深層学習のより広範なトレンドとも相互作用する。例えば、透明性への焦点は、モデルプルーニングやデータ拡張に関する研究に見られるように、トレーニングデータとモデルの動作を文書化する取り組みと一致する。この法律の技術文書要件は、トランスフォーマーアーキテクチャやマルチヘッドアテンションメカニズムで使用されるような、より厳格な実践をプロバイダーに採用させる可能性がある。
受け止めと批判
AI法はさまざまな反応を受けている。一部の利害関係者は、提供される規制の明確さを歓迎する一方、他の者はコンプライアンスコストとイノベーションの阻害の可能性について懸念を表明している。域外適用範囲は特に議論の的となっており、世界的なAIプロバイダーに影響を与える可能性がある。最小リスクシステムの自主的な行動規範は柔軟なアプローチと見なされているが、一部の者は、特に複数の状況で使用できる汎用AIについて、この法律のリスクカテゴリーが常に明確であるとは限らないと主張している。
2025年現在、この法律は段階的な実施段階にあり、2024年8月から6か月から36か月の間に規定が運用される。執行が始まり判例法が発展するにつれて、AI業界への完全な影響がより明確になるだろう。