EU AI Act Proposal 2021は、欧州委員会が欧州連合内における人工知能の開発と利用を規律するために打ち出した画期的な規制イニシアチブである。2021年4月21日に提案され、AIシステムをリスクに応じて分類し、提供者と利用者に相応の義務を課す共通の法的枠組みの確立を目指している。この規則は2024年8月1日に発効し、その後6か月から36か月の期間をかけて段階的に適用され、EU域内に利用者を持つ域外の提供者にも域外適用される。
この提案は、Generative AIシステム（ChatGPTなど）の台頭に対応するため大幅な修正が行われた。これらの汎用能力は当初のリスク分類に適合しなかったためである。2024年3月13日に欧州議会を通過し、2024年5月21日にEU理事会で全会一致で承認された。
リスクに基づく分類
この規則は製品安全モデルを採用し、潜在的な害悪が増すにつれて規制上の義務も増大するものとしている。4つの主要なリスクレベルと、汎用AIのための別カテゴリーを定義している：
- 許容不能なリスク：禁止される用途には、人間の行動を操作するもの、公共空間でのリアルタイム遠隔生体認証、ソーシャルスコアリングを可能にするものが含まれる。特定のケースには狭い例外が適用される。
- 高リスク：医療、教育、採用、重要インフラ、法執行、司法におけるシステムは、品質、透明性、人間による監視、安全性に関する義務を満たさなければならない。一部は展開前に基本権影響評価を必要とし、市民は権利に影響する決定について苦情を申し立てたり説明を求めたりすることができる。
- 限定的リスク：利用者がAIと対話していることや、ディープフェイクなどのコンテンツがAI生成であることを知らせるなど、透明性義務が適用される。
- 最小リスク：ビデオゲームやスパムフィルターなどの規制対象外システムがここに分類される。最大限の調和により加盟国は追加規則を課すことができないが、自主的な行動規範が提案されている。
高リスク用途のリストは、規則自体を改正することなく拡大できる。欧州議会調査局は、委員会の影響評価がこの枠組みを設計する際に利害関係者協議と既存研究を活用したと指摘している。
汎用AIに関する規定
2023年に追加されたこのカテゴリーは、大規模言語モデルのような幅広いタスクを実行する基盤モデルを対象としている。オープンソースモデルはトレーニングデータの要約と著作権方針を公開しなければならず、クローズドソースモデルはより広範な透明性要件に直面する。トレーニングに10^25回以上の浮動小数点演算を必要とする高影響モデルはシステム的リスクをもたらすと指定され、モデル評価、敵対的テスト、バイアスとセキュリティ障害のリスク軽減、インシデント報告、適切なサイバーセキュリティ対策を受けなければならない。
2025年7月10日に公表された汎用AI行動規範は、透明性、著作権、安全性とセキュリティに関する3つの章で構成され、提供者がコンプライアンスを実証するのに役立つ。参加は任意である。
免除と適用範囲
第2.3条と第2.6条は、軍事、防衛、国家安全保障専用のAIシステム、および純粋な科学研究と開発を免除している。この規則は個人の権利を創設するものではなく、専門的な提供者と利用者に義務を課すものである。大半の分野を対象とするが、非専門的な個人使用も除外される。
制度的枠組み
この規則は、各国の協力を促進しコンプライアンスを確保するため、欧州人工知能委員会を創設する。一般データ保護規則と同様に、EU域内に利用者を持つ場合にはEU域外の提供者にも適用され、その規制範囲を世界的に拡大する。
段階的実施により、義務は2024年8月から6か月から36か月の期間をかけて段階的に運用され、利害関係者が適応する時間を確保できる。この枠組みは、イノベーションと健康、安全、基本権の保護のバランスを取るよう設計されており、AIガバナンスへの予防的アプローチを反映している。