2021年EU AI法提案は、欧州委員会が欧州連合内の人工知能（AI）を規制するために提出した最初の立法提案である。2021年4月21日に導入され、AIアプリケーションを許容不能、高、限定的、最小の4つのレベルに分類するリスクベースの枠組みを確立し、提供者と展開者にそれぞれ対応する義務を課した。この提案は後に、ChatGPTなどの生成AIシステムの台頭に対応するため改訂され、2024年に最終的なAI法として採択された。
この提案は、信頼できるAIのリーダーとしてのEUの地位を確立し、イノベーションと基本権保護のバランスを取るという、より広範なEU戦略から生まれた。これは、欧州議会と委員会のAIに関する高級専門家グループによる初期の作業に基づいており、急速な技術変化に適応できる規制枠組みを求めていた。元の文書は、国内規則を調和させ、市場の断片化を防ぎ、EU市場に投入されるAIシステムが安全で既存法を尊重することを確保することを目的としていた。
背景と立法経緯
欧州委員会は2018年からAI政策を開発しており、その年に加盟国とのAIに関する調整計画を発表した。2020年2月、委員会はAIに関する白書を公表し、政策オプションを概説して公開協議を開始した。そのフィードバックと影響評価を組み合わせて、2021年4月21日に域内市場担当委員ティエリー・ブルトンと副委員長マルグレーテ・ベステアーが起草規則を提示した。
この提案は、デジタルサービス法とデジタル市場法も含むより広範なデジタルパッケージの一部であった。オンラインプラットフォームに焦点を当てたこれらの規則とは異なり、AI法は技術自体を対象とし、機械、玩具、医療機器に関する既存のEU法と同様の製品安全モデルを使用した。このアプローチは、システムがもたらすリスクレベルに基づいて、AI提供者（開発者）と展開者（ユーザー）に義務を割り当てた。
立法プロセスは3年以上かかった。欧州議会とEU理事会は修正を交渉し、生成AIツールの急速な採用に対応して重要な変更が行われた。最終文書は2024年3月13日に議会で可決され、2024年5月21日に理事会で承認され、2024年8月1日に発効した。しかし、2021年の提案は、これらの交渉の基盤として歴史的に重要であり続けている。
リスクベースの分類
提案の核心は4層のリスクピラミッドであり、これは最終法でもほぼ維持された。カテゴリは、AIシステムが健康、安全、または基本権に引き起こす可能性のある潜在的な害を反映するように設計された。
許容不能リスク
許容不能リスクをもたらすと見なされるアプリケーションは、全面的に禁止されることになっていた。これには、自由意志を回避するために人間の行動を操作するAIシステム、特定のグループ（子供や障害者など）の脆弱性を悪用するもの、および個人の特性や行動に基づいて個人をランク付けする社会的スコアリングシステムが含まれた。提案はまた、特定の犯罪に対する狭い例外と司法承認を条件として、公共アクセス可能な空間での法執行目的のリアルタイム遠隔生体認証を禁止した。
高リスク
高リスクAIシステムは、最も広範な義務の対象となった。提案は8つの特定領域を列挙した：自然人（個人）の生体認証と分類、重要インフラの管理と運用、教育と職業訓練、雇用と労働者管理、必須の私的および公的サービスへのアクセス、法執行、移民・亡命・国境管理、および司法と民主的プロセスの運営。高リスクシステムの提供者は、リスク管理システムを実装し、高品質のトレーニングデータを使用し、技術文書を維持し、自動ログを有効にし、透明性を確保し、人間による監視を提供する必要があった。また、市場投入前およびシステムのライフサイクル全体にわたって適合性評価を受ける必要があった。
限定的リスク
チャットボットやディープフェイク生成器などの限定的リスクAIシステムは、透明性義務の対象となった。ユーザーはAIシステムと対話していることを知らされ、AIによって生成または操作されたコンテンツはそのようにラベル付けされる必要があった。これは、個人が情報に基づいた選択を行い、欺瞞を防ぐことを意図していた。
最小リスク
ビデオゲームやスパムフィルターを含む大多数のAIアプリケーションは、最小リスクと見なされ、規制されなかった。提案はこれらのシステムに対する自主的な行動規範を奨励したが、拘束力のある要件は課さなかった。加盟国はまた、最小リスクシステムに追加の国内規則を課すことを防がれ、AIの単一市場を確保した。
汎用AIと生成モデル
元の2021年提案は、異なるドメインにわたって幅広いタスクを実行できる汎用AI（GPAI）システムを明示的に対象としていなかった。このギャップは、2022年後半から2023年にかけてChatGPTやその他の基盤モデルなどの生成AIモデルの爆発的な成長により明らかになった。草案は、GPAI専用のカテゴリを追加し、段階的な義務を設けるように改訂された。
改訂された枠組みの下では、すべてのGPAIモデルは技術文書を提供し、トレーニングデータの要約を公開し、著作権法を遵守する必要があった。重みと設計が公開されたオープンソースモデルは、トレーニングデータの要約と著作権ポリシーの公開のみなど、要件が軽減された。クローズドソースモデルは、より広範な透明性義務を満たす必要があった。トレーニングに10^25回以上の浮動小数点演算を必要とする高影響モデルは、システム的リスクをもたらすと見なされ、追加の評価、敵対的テスト、およびサイバーセキュリティ対策を受ける必要があった。
この改訂は、多くのアプリケーションに微調整できる機械学習システムがもたらす課題への直接的な対応であり、元のリスクカテゴリの下でそれらを分類することを困難にしていた。このアプローチは、特にGoogle DeepMindやAnthropicなどの企業によって開発された最も強力なモデルに対する監視とイノベーションのバランスを取ることを目的とした。
執行とガバナンス
提案は、EU全体での一貫した適用を確保するためのガバナンス構造を確立した。これは、加盟国と委員会の代表で構成される欧州AI委員会を創設し、協力を促進しガイダンスを提供した。国内監督当局は、それぞれの領土で規則を執行する責任を負い、市場監視を実施し罰則を課す権限を持っていた。
不遵守に対する罰則は、禁止された慣行に関わる違反に対して企業の世界年間売上高の最大6%、その他の違反に対して4%、誤った情報の提供に対して2%に設定された。これらの罰金は一般データ保護規則（GDPR）の下でのものに匹敵し、EUの堅牢な執行へのコミットメントを反映していた。
提案はまた、域外適用の条項を含み、EU外の提供者がEU内のユーザーにAIシステムを提供する場合、規則の対象となることを意味した。これはGDPRのアプローチを反映し、グローバルなAI開発者に平等な競争条件を作り出すことを目的とした。
免除と範囲
特定のAIシステムは提案の範囲から除外された。これには、軍事、防衛、または国家安全保障目的に排他的に使用されるシステム、および科学研究開発のみのために開発され運用されるシステムが含まれた。規則はまた、個人的で非専門的な活動に使用されるAIには適用されなかった。これらの免除は、安全保障問題における加盟国の主権を尊重し、研究環境でのイノベーションを妨げないことを意図していた。
しかし、提案は、これらがしばしば国家機能であるにもかかわらず、法執行または移民管理で使用されるAIシステムを免除しなかった。代わりに、それらを高リスクカテゴリに置き、人間による監視や基本権影響評価などの追加の保護措置を課した。
影響と遺産
2021年の提案は、主要な法域によって提案されたAI規制の最初の包括的な法的枠組みであり、AI規制における画期的な出来事であった。これは、欧州評議会のAI条約やさまざまな国内イニシアチブを含む、その後の世界的な規制努力に影響を与えた。リスクベースのアプローチは広く議論され、一部の学者はその柔軟性を賞賛し、他の学者は潜在的なギャップや過剰規制を批判した。
立法プロセス中、提案は産業界と市民社会からの懸念に対処するために修正された。例えば、高リスクアプリケーションのリストは洗練され、AIの定義はOECDのものと整合された。2024年に採択された最終法は、2021年の提案の核心構造を維持したが、GPAIカテゴリを追加し、特定の閾値を調整した。
提案はまた、AI規制の性質に関する学術的および政策的議論を引き起こした。一部は製品安全モデルがAIに適切であると主張し、他の者はより人権中心のアプローチを求めた。基本権影響評価の組み込みは、アルゴリズム影響評価に関する初期の作業に基づく進歩的なステップと見なされた。
2025年現在、AI法の条項は段階的に導入されており、禁止された慣行とGPAI義務の最初の期限はすでに発効している。2021年の提案は、EUおよび世界的なAIガバナンスの進化を理解するための重要な参照点であり続けている。