EU AI Act 2032は、欧州連合の人工知能法（AI Act）の将来の改訂版であり、EU域内の人工知能に関する共通の規制・法的枠組みを確立する規則である。当初の規則は2024年8月1日に発効し、その後の6か月から36か月の間に段階的に適用される予定である。2032年の改訂は、当初の枠組みでは完全にはカバーされなかった新たな課題や技術的発展、特に汎用AIやシステムリスク管理の分野に対処することが見込まれている。
AI Actは、広範な分野にわたるほとんどのAIシステムを対象とするが、軍事、国家安全保障、研究目的、または非職業的利用に限定されたAIは免除される。製品規制の一形態として、個人の権利を創設するものではなく、AIプロバイダーや職業的状況でAIを利用する組織に義務を課す。この法律は、免除されないAIアプリケーションを、許容不能、高リスク、限定的リスク、最小リスクの4つのリスクレベルと、汎用AIの追加カテゴリーに分類する。2032年の改訂は、実施経験と技術的進化に基づいてこれらのカテゴリーを精緻化することが期待される。
立法背景
欧州委員会は、当初のAI Actを2021年4月21日に提案した。欧州議会は2024年3月13日に可決し、EU理事会は2024年5月21日に全会一致で承認した。草案は、大規模言語モデルなどの生成AIシステムの台頭に対応するため改訂され、その汎用能力は主要な枠組みに適合しなかった。この法律はまた、国家間の協力を促進し、コンプライアンスを確保するための欧州人工知能委員会を設立する。EUの一般データ保護規則と同様に、この法律は、EU域内にユーザーがいる場合、EU域外のプロバイダーにも域外適用される可能性がある。
2032年の改訂プロセスは、この法律に組み込まれた見直しメカニズムの一部であり、規則の有効性の定期的な評価を義務付けている。欧州委員会は、加盟国、業界関係者、市民社会からのフィードバックを考慮し、この法律の実施に関する包括的な評価を行うことが期待される。この見直しは、リスクベースのアプローチが新しいAIアプリケーションに適切に対処しているかどうか、また高リスクカテゴリーのリストに調整が必要かどうかを検討する可能性が高い。
見直し中のリスクカテゴリー
当初の法律は、4つのリスクレベルを確立している。許容不能リスクのアプリケーションは、特定の免除を除き禁止されており、人間の行動を操作するAI、公共空間でのリアルタイム遠隔生体認証、社会的スコアリングなどが含まれる。高リスクアプリケーション（健康、安全、または基本権に重大な脅威をもたらすもの）は、セキュリティ、透明性、品質に関する義務を遵守し、適合性評価を受ける必要がある。限定的リスクアプリケーションには、ユーザーにAIと対話していることを知らせるなどの透明性義務がある。ビデオゲームやスパムフィルターなどの最小リスクアプリケーションは規制されない。
2032年の改訂では、新しいAIアプリケーションがこれらのカテゴリーに該当するかどうかが検討される可能性がある。例えば、生成AIやニューラルネットワークの進歩により、特定の用途の再分類が促される可能性がある。この法律は、高リスクアプリケーションのリストを、法律自体を修正することなく時間の経過とともに拡大することを認めているため、改訂では、新たな害の証拠に基づいて追加を提案する可能性がある。
汎用AI規定
2023年に追加された汎用AIカテゴリーには、トランスフォーマーベースモデルなど、幅広いタスクを実行できる基盤モデルが含まれる。モデルの重みと設計がオープンソース化されている場合、開発者はトレーニングデータの要約と著作権ポリシーを公開する必要がある。クローズドソースモデルは、より広範な透明性要件を満たす必要がある。システムリスクをもたらす高影響モデル（トレーニングに10^25浮動小数点演算以上を必要とするもの）は、追加の評価を受けなければならない。
2032年の改訂では、これらのしきい値と要件が更新される可能性がある。2025年7月10日に公開された汎用AI行動規範は、透明性、著作権、安全性とセキュリティに関する3つの主要な章を概説している。参加は任意であるが、改訂によりコンプライアンスが必須になるか、規範の規定が強化される可能性がある。プロバイダーは、トレーニングデータの要約を公開し、著作権ポリシーを採用し、下流のプロバイダーや監督当局に技術文書を提供する必要がある。
システムリスク管理
システムリスクをもたらすと指定されたモデルは、モデル評価と敵対的テストを実施し、バイアスやセキュリティ障害などのリスクを評価・軽減し、重大なインシデントを報告し、適切なサイバーセキュリティを確保する必要がある。2032年の改訂では、これらの義務を追加のモデルタイプに拡大したり、システムリスク指定の計算しきい値を引き下げたりする可能性がある。
機械学習の安全性と深層学習の解釈可能性に関する新興研究は、これらの変更に情報を提供する可能性がある。改訂では、OpenAIや他の主要開発者によってもたらされる課題に対処し、彼らのフロンティアモデルが進化する基準を満たすことを確保する可能性もある。欧州人工知能委員会は、技術的評価に基づいて更新を推奨する中心的な役割を果たす可能性が高い。
免除と適用範囲の調整
この法律の第2.3条と第2.6条は、軍事、国家安全保障、または純粋な科学研究開発に使用されるAIシステムを免除している。2032年の改訂では、特に民間と軍事の両方の目的に役立つデュアルユース技術について、これらの免除を明確にする可能性がある。また、悪用を防ぐために研究免除を狭めるべきかどうかも検討される可能性がある。
この法律の域外適用範囲は、EU域外のプロバイダーのコンプライアンス課題に対処するために精緻化される可能性がある。改訂では、EU域内にユーザーがいるプロバイダーに関する既存の規定に基づいて、国際規制当局との協力のための新しいメカニズムが導入される可能性がある。
実施と執行
2032年の改訂では、初期実施期間中に特定された執行のギャップに対処する可能性が高い。この法律は、加盟国に国家監督当局を指定することを義務付けており、欧州人工知能委員会がその活動を調整する。改訂では、これらの機関の権限を強化したり、新しい罰則を導入したり、適合性評価手続きを合理化したりする可能性がある。
市民は、AIシステムについて苦情を提出し、権利に影響を与える高リスクAIによる決定の説明を受ける権利を有する。改訂では、これらの権利を拡大したり、医療、教育、法執行などの特定の分野での適用を明確にしたりする可能性がある。一部の高リスクシステムに必要な基本権影響評価も、実務経験に基づいて更新される可能性がある。
予想されるタイムラインとプロセス
2032年の改訂は、EUの通常立法手続きに従うことが期待される。欧州委員会は、公開協議と影響評価に続いて、2031年後半または2032年前半に提案を発表する可能性が高い。その後、欧州議会と理事会が修正を交渉し、2032年半ばまでに採択される可能性がある。改訂された法律は、官報での公表後に発効し、コンプライアンスのための移行期間が設けられる。
現時点では、公式の提案は公開されておらず、改訂の正確な範囲は不確実なままである。関係者は、改訂が技術的発展への適応、他のEUデジタル規制との整合性の改善、実施課題への対処に焦点を当てると予想している。その結果は、今後10年間の欧州におけるAIの規制環境を形成することになるだろう。