人工知能法（AI法）は、EU全域における人工知能に関する共通の規制・法的枠組みを確立する欧州連合の規則である。AIアプリケーションを、許容不能、高リスク、限定リスク、最小リスクの4つのリスク水準に分類し、さらに汎用AIのための別カテゴリーを設けている。許容不能なリスクを持つアプリケーションは、特定の例外を条件として全面的に禁止される。本規則は2024年8月1日に発効し、その後の6〜36か月にわたって段階的に規定が適用される。
許容不能リスクのあるAIシステムの禁止は、AI法のリスクベースのアプローチにおける最も厳格な層である。これは、EU域内の個人の基本権、安全、または民主的プロセスに明確な脅威をもたらすAIアプリケーションを対象とする。コンプライアンス義務を満たさなければならない高リスクシステムとは異なり、許容不能リスクシステムは、狭義に定義された例外に該当しない限り、EU市場での許可が下りない。この禁止は、EU域内にユーザーがいる場合、EU外のプロバイダーにも適用され、一般データ保護規則と同様の域外適用がなされる。
禁止の範囲
AI法は、自由意志を回避する方法で人間の行動を操作するAIアプリケーション、例えば、 subliminal技術や特定の集団（例えば、子供や障害者）の脆弱性を悪用して害を引き起こすものを禁止する。また、公的機関が不利益な扱いのために使用する場合、個人の特性、社会経済的地位、または行動に基づいて個人を格付けするソーシャルスコアリングも禁止する。公共空間でのリアルタイムの遠隔生体認証（顔認識を含む）は、法執行目的での使用が禁止され、特定の重大犯罪、テロ、または行方不明者に関する限定的な例外を除き、司法当局の承認を条件とする。
追加の禁止慣行には、年齢、障害、または社会的・経済的状況による脆弱性を悪用するAI、および医療上または安全上の理由を除き、職場や教育現場で感情を推測するAIが含まれる。このリストは網羅的であり、このカテゴリーの下で自動的に禁止される他の慣行はない。欧州委員会は、委任行為を通じてリストを更新できるが、拡大には完全な立法改正が必要である。
禁止の例外
AI法の第2.3条および第2.6条は、軍事、防衛、または国家安全保障の目的に専ら使用されるAIシステム、ならびに純粋な科学研究および開発を免除する。これらの例外は狭義であり、AIシステムはデュアルユースの能力ではなく、それらの目的に専ら使用されなければならない。非職業的な個人使用のAIも適用範囲外である。例外は、軍や治安機関によって開発された場合でも、商業展開や民生用の文脈で使用されるシステムには適用されない。
リアルタイムの遠隔生体認証については、禁止には法執行のための特定の carve-out が含まれており、誘拐や人身売買の被害者の捜索、差し迫った重大なテロの脅威の防止、重大犯罪（国内法で定義）の容疑者の特定または発見の3つのシナリオが対象となる。いかなる使用も司法または独立した行政当局の承認が必要であり、決定は客観的証拠に基づかなければならない。承認は時間制限と地理的制限があり、欧州人工知能委員会への報告が義務付けられている。
歴史的背景と立法プロセス
欧州委員会は2021年4月21日にAI法を提案した。当初の草案には汎用AIのための専用カテゴリーは含まれていなかったが、ChatGPTなどの生成AIシステムの急速な台頭 - 大規模言語モデルに基づく - が改正を促した。欧州議会は2024年3月13日に本法を可決し、EU理事会は2024年5月21日に全会一致で承認した。最終テキストには、幅広いタスクを実行できる基盤モデルに対処するために2023年に追加された汎用AIカテゴリーが組み込まれた。
許容不能リスク慣行の禁止は当初の提案に存在していたが、その範囲は交渉中に精緻化された。初期の草案には「操作的手法」に使用されるAIに関するより広範な禁止が含まれていたが、自由意志を回避する技術に焦点を当てるように狭められた。ソーシャルスコアリングの禁止も、民間主体ではなく公的機関に特に適用されるように明確化されたが、不利益な扱いにつながる民間使用は他の規定の下で捕捉される可能性がある。
コンプライアンスと執行
本法によって設立された欧州人工知能委員会は、国家間の協力を促進し、一貫した執行を確保する。国家監督当局は、各加盟国内でのコンプライアンス監視を担当する。許容不能リスクシステムについては、主な義務は市場に出すことや使用しないことである。プロバイダーまたは展開者が禁止されたシステムを使用していることが判明した場合、禁止違反に対して、最大3,500万ユーロまたは世界年間売上高の7％のいずれか高い方の罰金が科される。
執行はリスクベースであり、当局は市場監視を実施し、文書を要求し、監査を行うことができる。本法は個人の権利を創設しないため、市民はAI法自体に基づいて直接損害賠償を請求することはできず、既存の国内法または一般データ保護規則に依存しなければならない。ただし、市民は、許容不能リスク禁止に該当すると考えるAIシステムを含め、国家当局に苦情を提出することができる。
他のリスクカテゴリーとの関係
許容不能リスクシステムの禁止は、他の3つの層と並置される。高リスクアプリケーション - 医療、教育、採用、重要インフラ、法執行、または司法で使用されるAIなど - は、セキュリティ、透明性、品質の義務を遵守し、適合性評価を受けなければならない。一部の高リスクシステムは、展開前に基本権影響評価を必要とする。ディープフェイク生成器などの限定リスクシステムは、透明性義務のみを持つ。ビデオゲームAIやスパムフィルターなどの最小リスクシステムは規制されておらず、最大限の調和のため、加盟国は追加の規則を課すことはできない。
許容不能と高リスクの区別は、実際には必ずしも明確ではない。例えば、採用における感情認識に使用されるAIシステムは、高リスクと見なされる可能性がある（採用に影響するため）が、脆弱性を悪用する場合は禁止される可能性もある。欧州委員会は境界事例の分類を支援するためのガイドラインを公開しているが、2025年時点ではこれらは拘束力がない。法律学者は、リスクベースのスキームは製品安全モデルに従っており、健康、安全、または基本権への潜在的な影響に応じて規制上の義務が増加すると指摘している。
汎用AIと禁止
基盤モデルを含む汎用AIモデルは自動的に禁止されるわけではないが、透明性要件の対象となる。オープンソースモデルは、トレーニングデータの要約と著作権ポリシーを公開しなければならない。クローズドソースモデルは、より広範な透明性義務に直面する。トレーニングに10^25回を超える浮動小数点演算を必要とする高影響モデルは、システムリスクの追加評価を受けなければならない。2025年7月10日に公開された汎用AI行動規範は、透明性、著作権、安全性に関する章を概説しているが、参加は任意である。
許容不能リスク慣行の禁止は、禁止されたアプリケーションで使用される場合、汎用AIに適用される。例えば、ソーシャルスコアリングに使用される生成AIシステムは、基礎となるモデルが他に合法であっても禁止される。これにより二重の義務が生じる。プロバイダーはモデルが禁止された方法で使用されないことを確保しなければならず、展開者はそのような文脈で使用してはならない。本法はプロバイダーに禁止された使用に対する技術的保護手段を組み込むことを要求しないが、展開者がモデルの能力と制限を理解するのに役立つ文書を提供しなければならない。
影響と批判
この禁止は、顔認識やソーシャルスコアリングに関するAI規制の強力な前例を設定したとして、市民社会団体から賞賛されている。しかし、業界の批評家は、禁止が過度に広範であり、正当な用途を持つ機械学習アプリケーション、特にイノベーションを阻害する可能性があると主張している。一部の法律専門家は、軍事および国家安全保障の例外が広範であり悪用される可能性があると指摘しているが、本法はそのようなシステムがそれらの目的に「専ら」使用されることを要求している。
禁止の域外適用も注目を集めている。OpenAI、Anthropic、Google DeepMindなどの主要なAI開発者を含む非EU企業は、EUユーザーにサービスを提供する際に、システムが禁止された慣行に関与しないことを確保しなければならない。これにより、ジオブロッキングやシステム動作の調整などのコンプライアンス努力が生じている。2025年時点で、主要な執行措置は公に報告されていないが、欧州委員会は許容不能リスクシステムの監視を優先すると示している。
AI法の許容不能リスクAIの禁止は、AIガバナンスに対する以前のより自発的なアプローチからの重要な転換を表している。特定のアプリケーションに明確なレッドラインを設定しつつ、高リスクシステムが厳格な条件の下で運用される余地を残している。規定の段階的な導入により、禁止の完全な執行は2027年8月までに完了し、特定の義務にはより早い期限が設定される。実際の影響は、国家当局が例外をどのように解釈するか、および欧州委員会が技術的発展に応じて禁止慣行のリストをどのように更新するかに依存する。