人工知能法（AI法）は、欧州連合（EU）内における人工知能に関する共通の規制・法的枠組みを確立するEU規則である。2024年8月1日に発効し、その後の6か月から36か月の間に段階的に適用される。この法律は、幅広い分野にわたるほとんどのAIシステムを対象とするが、軍事、国家安全保障、研究目的、または非職業的用途にのみ使用されるAIは除外される。製品規制の一形態として、個人の権利を創設するものではなく、AIプロバイダーおよび職業的状況でAIを利用する組織に義務を課すものである。
この法律は、非免除のAIアプリケーションを害を引き起こすリスクに基づいて分類し、許容不能、高、限定的、最小の4つのレベルと、汎用AIのための追加カテゴリーを設けている。このリスクベースのスキームは、AIシステムのプロバイダーとデプロイヤーに規制上の義務が割り当てられ、健康、安全、または基本権への潜在的な影響が大きくなるにつれて義務が厳しくなるという製品安全モデルに従っている。この構造は、重大なリスクを生み出す可能性が高いシステムに監視を集中させつつ、感受性の低い用途にはより軽いアプローチを可能にすることを目的としている。
立法経緯
欧州委員会は2021年4月21日にAI法を提案した。欧州議会は2024年3月13日に可決し、EU理事会は2024年5月21日に全会一致で承認した。立法過程において、草案はChatGPTなどの生成AIシステムの人気上昇に対応するために改訂された。これらの汎用能力は主要な枠組みに適合しなかったためである。この改訂により、2023年に汎用AIカテゴリーが追加され、幅広いタスクを実行できる基盤モデルが対象となった。
この法律はまた、国家間の協力を促進し、コンプライアンスを確保するための欧州人工知能委員会を設立する。EUの一般データ保護規則と同様に、この法律はEU域内にユーザーを持つ場合、EU外のプロバイダーにも域外適用される可能性がある。
リスクカテゴリー
許容不能リスク
このカテゴリーのAIアプリケーションは、特定の免除を除いて禁止される。免除が適用されない場合、人間の行動を操作するAIアプリケーション、公共空間でのリアルタイム遠隔生体認証（顔認識など）を使用するもの、および個人の特性、社会経済的地位、または行動に基づいて個人をランク付けするソーシャルスコアリングに使用されるものが含まれる。
高リスク
高リスクアプリケーションは、人の健康、安全、または基本権に重大な脅威をもたらすと予想されるものである。特に、医療、教育、採用、重要インフラ管理、法執行、または司法で使用されるAIシステムはこのカテゴリーに該当する。これらのシステムは、品質、透明性、人間による監視、および安全性に関する義務の対象となる。場合によっては、展開前に基本権影響評価（FRIA）が必要となる。これは、基本権への潜在的な影響を特定し、緩和するための事前評価である。これらは、市場に投入される前とライフサイクル全体の両方で評価されなければならない。高リスクアプリケーションのリストは、AI法自体を変更することなく時間の経過とともに拡大できる。市民は、AIシステムについて苦情を提出し、自分の権利に影響を与える高リスクAIによる決定について説明を受ける権利を有する。
限定的リスク
限定的リスクのAIシステムには透明性義務があり、ユーザーがAIシステムと対話していることを知らされ、情報に基づいた選択ができるようにする。このカテゴリーには、ディープフェイクなど、画像、音声、または動画を生成または操作するAIアプリケーションが含まれる。
最小リスク
最小リスクアプリケーションには、ビデオゲームやスパムフィルターに使用されるAIシステムが含まれる。ほとんどのAIアプリケーションはこのカテゴリーに該当すると予想される。これらのシステムは規制されておらず、最大限の調和規則により、加盟国は追加の規制を課すことはできない。そのようなシステムの設計または使用に関する既存の国内法は無効となる。ただし、自主的な行動規範が提案されている。
汎用AI
2023年に追加された汎用AIカテゴリーには、幅広いタスクを実行できる基盤モデルが含まれる。モデルの重みと設計がオープンソース化されている場合、開発者はトレーニングデータの概要と著作権ポリシーを公開する必要がある。クローズドソースモデルは、より広範な透明性要件を満たす必要がある。トレーニングに1025回を超える浮動小数点演算を必要とする、システムリスクをもたらす高影響モデルは、追加の評価を受けなければならない。
基本的な透明性義務に加えて、この法律は汎用AIモデルのプロバイダーに共通の義務リストを設定している。トレーニングデータの概要を公開し、著作権法に準拠するためのポリシーを採用し、下流のプロバイダーおよび監督当局に技術文書を提供する必要がある。システムリスクをもたらすと指定されたモデルは、モデル評価と敵対的テストを実施し、バイアスやセキュリティ障害などのリスクを評価および緩和し、重大なインシデントを報告し、適切なレベルのサイバーセキュリティを確保する必要もある。
2025年7月10日に公開された汎用AI行動規範は、透明性、著作権、安全性とセキュリティに関する3つの主要な章を概説し、プロバイダーがコンプライアンスを示すのに役立つ。規範への参加は任意である。
免除
第2.3条および第2.6条は、軍事または国家安全保障目的、または純粋な科学研究開発に使用されるAIシステムをAI法から免除する。この規則は、AIシステムが専ら軍事、防衛、または国家安全保障目的で使用される場合、または専らそれらの目的のために開発され、運用されるシステムには適用されない。
実施スケジュール
この規則は2024年8月1日に発効し、規定は6か月から36か月の間に段階的に導入される。この段階的アプローチにより、プロバイダーとデプロイヤーは新しい義務に適応する時間を得ることができる。欧州人工知能委員会は、国家間の協力と加盟国全体での一貫した執行を支援する。
影響と解釈
一部の法律学者は、実際にはこの法律が「信頼できるAI」を、安全性とリスクのしきい値へのコンプライアンスを示すことができるシステムとして枠組みしていると主張している。欧州議会調査サービスによる初期評価によると、委員会の影響評価は、リスクベースの枠組みの政策オプションを比較する際に、利害関係者との協議と幅広い既存研究を活用した。域外適用により、EUユーザーを持つ非EUプロバイダーも、一般データ保護規則の範囲と同様に準拠する必要がある。
関連概念
AI法のリスクベースのアプローチは、人工知能ガバナンスのより広範な発展に関連している。汎用AIに関する規定は、大規模言語モデルや生成AIなどの技術と交差する。ディープフェイクの透明性要件は、深層学習アプリケーションと関連している。医療や法執行などの高リスク分野への法律の焦点は、Google DeepMindやOpenAIなどの組織が安全性研究で取り組んでいる懸念を反映している。基本権影響評価は、MIT CSAILやスタンフォードAIラボなどの機関の研究と同様に、アルゴリズム影響評価の初期の研究に基づいている。