EU AI責任指令は、人工知能システムによって引き起こされた損害に対する民事責任規則を調和させることを目的とした、欧州連合の提案中の法的文書である。2022年9月28日に欧州委員会によって導入されたこの指令は、特に自律的または半自律的な挙動を持つAIシステムが個人や企業に損害を与える場合に生じる法的ギャップに対処することを目指している。これは、世界初の包括的なAI規制枠組みであるAI法を含む、より広範なEUデジタル戦略の一部である。AI法がリスクベースの要件を通じて損害の防止に焦点を当てる一方、AI責任指令は損害発生後の補償に焦点を当て、被害者が効果的に救済を求めることができるようにする。
この提案は、AIがもたらす特有の課題、例えば、機械学習モデルの不透明性により故障の特定原因を特定することが困難になる「ブラックボックス」問題に対応している。多くの場合、申立人に過失や欠陥の証明を要求する従来の責任規則は、深層学習やニューラルネットワークを通じて進化する可能性のあるAIシステムには不向きである。この指令は、全EU加盟国にわたる統一的な法的枠組みを創設し、現在各国の責任法に存在する断片化を減らし、消費者と企業の両方に法的確実性を提供しようとしている。
背景と立法文脈
EU AI責任指令は、改訂された製品責任指令とともに提案され、両方とも欧州委員会の2020年デジタル時代パッケージの一部である。委員会の影響評価では、既存の国内責任制度がAI関連の損害に対して不十分であり、EU全体で一貫性のない結果をもたらしていることが特定された。この指令は、2024年に採択されたAI法を補完するように設計されており、AI法がカバーしない民事責任の側面に対処する。AI法は高リスクAIシステムに関する規則を定め、透明性や人間による監視義務を含むが、被害者が補償を請求する仕組みは提供しない。AI責任指令はこのギャップを埋める。
この提案は、広範な協議と交渉の対象となっている。欧州議会と欧州連合理事会が共同立法者であり、2025年現在、この指令はまだ立法過程にある。議会の法律問題委員会は、より広い範囲とAI開発者および展開者に対する責任に関するより明確な規定を含む修正案を提案している。理事会は全体的なアプローチを支持しているが、「高リスク」AIの定義と製品責任指令との相互作用に関する明確化を求めている。
指令の主要規定
AI責任指令は、被害者の立証責任を軽減するための2つの主要な法的メカニズムを導入している。第一に、因果関係の推定を確立する：申立人が被告の過失（例えば、AI法の要件への不遵守）が損害の可能性のある原因であることを示すことができれば、裁判所は、被告が反証しない限り、その過失が損害を引き起こしたと推定することができる。この推定は、因果関係の確立が困難な複雑なAIシステムを含むケースで特に重要である。第二に、この指令は、機密性と営業秘密の保護を条件として、トレーニングデータやアルゴリズムログを含むAIシステムに関する関連証拠の開示を命じる権限を裁判所に与える。
この指令は、プロバイダー（AIシステムを開発または製造する主体）と展開者（専門的立場でAIシステムを使用する主体）の両方に適用される。プロバイダーはAIシステム自体の欠陥に対して責任を負い、展開者は不適切な使用またはシステムの保守失敗に対して責任を負う可能性がある。この指令は厳格責任制度を創設するものではなく、過失ベースのアプローチを維持するが、特定の状況では立証責任を移転する。これは、多くの場合欠陥の証明を要求する伝統的な製品責任からの重要な逸脱である。
範囲と定義
この指令は、AI法に沿って「AIシステム」を定義し、大規模言語モデル、生成AI、トランスフォーマーを含む広範な技術をカバーしている。物的損害、経済的損失、差別やプライバシー侵害などの非物的損害を含む、物理的およびデジタル的な損害の両方に適用される。ただし、この指令は、契約紛争から生じる請求、および核損害や特定の国際条約でカバーされる他の領域からの請求を除外している。
この指令は、AI法で定義される「高リスク」AIシステムと他のAIシステムを区別している。高リスクシステムの場合、因果関係の推定はより広く適用され、損害の可能性が高いことを反映している。非高リスクシステムの場合、申立人は推定を発動するためにより多くの証拠を提供しなければならない。この指令には「ルックスルー」条項も含まれており、プロバイダーがそのコンポーネントをAIシステムに統合した場合、第三者コンポーネントによって損害が引き起こされた場合でも、プロバイダーに対する請求が可能になる。
企業と消費者への影響
企業にとって、AI責任指令は新しいコンプライアンスコストと潜在的な法的エクスポージャーを導入する。自動運転車や手術ロボットなどのAIシステムを展開する企業は、適切な記録を維持し、証拠開示の裁判所命令に対応できることを確保しなければならない。この指令は、説明可能性を向上させるモデルプルーニングなどの技術の使用を奨励しており、これにより責任のリスクを減らすことができる。中小企業（SME）については、委員会はAI法の要件に準拠するAIシステムに対する「セーフハーバー」を提案しており、重大な過失の場合にのみ責任を限定している。
消費者にとって、この指令は競争条件を平準化することを目指している。裁判所がAIシステムデータにアクセスできるようにすることで「ブラックボックス」の障壁を除去し、これは多くの場合大手テクノロジー企業が保有している。これは、テスラのオートパイロットやDeepMindの医療アルゴリズムを含むケースに特に関連する。この指令はまた、展開者の責任が契約条項によって除外できないことを明確にしており、AIベースのサービスを使用する消費者を保護している。
製品責任指令との関係
AI責任指令は、2022年に提案され2024年に採択された改訂製品責任指令と並行して機能する。製品責任指令は、ソフトウェアを含む欠陥製品をカバーし、製造者に厳格責任を課す。対照的に、AI責任指令は、サービスや複数のAIシステム間の相互作用によって引き起こされるものを含む、より広範なAI関連の損害をカバーする。2つの指令は補完的になるように設計されている：製品責任指令は欠陥製品が損害を引き起こす場合に適用され、AI責任指令は製品欠陥が特定されなくてもAIシステムの運用から損害が生じる場合に適用される。
実際には、被害者は両方の指令に基づいて請求を行うことができる。例えば、ヒューマノイドロボットがソフトウェアバグにより誤動作した場合、被害者は製品責任指令に基づいて製造者を、AI責任指令に基づいて展開者を訴えることができる。指令には、二重回復を回避し、最も適切な被告が責任を負うことを確保するための調整条項が含まれている。
批判と議論
AI責任指令は、さまざまな利害関係者から批判に直面している。OpenAIやAnthropicを含むテクノロジー企業は、因果関係の推定がAI開発者を訴えやすくすることでイノベーションを阻害する可能性があると主張している。彼らは「ブラックボックス」問題はAIに固有のものではなく、既存の責任規則で十分であると主張している。一部の法律学者も、特に損害が複合要因によって引き起こされる場合、因果関係の推定が実際に適用するのが難しい可能性があると指摘し、この指令の有効性に疑問を呈している。
一方、消費者擁護団体はこの指令を歓迎しているが、十分ではないと主張している。彼らは、欠陥製品に対する責任と同様に、高リスクAIに対する厳格責任制度を求めている。欧州議会は、より広い「損害」の定義やより長い時効期間を含む、指令を強化するための修正案を提案している。理事会はより慎重であり、過剰規制を避け、営業秘密を保護する必要性を強調している。
現在の状況と次のステップ
2025年現在、AI責任指令はまだ交渉中である。欧州議会は2024年にその立場を採択し、理事会は2025年にその立場を採択すると予想されている。両機関が共通の立場に達すると、指令は正式に採択され、その後、おそらく2年以内に加盟国によって国内法に移行される。この指令は、移行日後に市場に投入されるAIシステムに適用され、既存システムには移行期間が設けられる。
最終テキストは、共同立法者がイノベーションと消費者保護のバランスを取ろうとするため、元の提案から大幅に異なる可能性がある。この指令は、AI法および改訂製品責任指令と並んで、信頼できるAIの世界的リーダーになるというEUの野心の重要な構成要素である。その成功は、AI関連の損害における因果関係の証明という実際的な課題にどれだけ効果的に対処するかに依存する。
結論
EU AI責任指令は、人工知能の時代に民事責任規則を適応させる先駆的な試みを表している。因果関係の推定と証拠開示メカニズムを導入することにより、AI開発者に過度の負担をかけずに過失ベースのアプローチを維持しながら、被害者が補償を得やすくすることを目指している。この指令は論争がないわけではないが、既存の法的枠組みがAIがもたらす特有のリスクに対して不十分であるという認識の高まりを反映している。立法過程が続く中、この指令は、AI責任問題にも取り組んでいる米国や日本を含む他の法域のモデルとなる可能性が高い。