EU AI責任指令は、2022年9月28日に欧州委員会が導入した提案中の法的文書である。その目的は、人工知能システムによって引き起こされた損害に対する民事責任規則を欧州連合全体で調和させることである。この指令は、AIシステムの要件規制に焦点を当てたEU AI法を補完し、AIシステムが害を引き起こした場合に誰が法的責任を負うかという問題に対処する。厳格責任制度を創設するものではなく、AI関連の請求において被害者の立証責任を軽減するための手続規則を調整するものである。
この提案は、AIシステムによって害を受けた個人が現実的な補償経路を持てるようにすることでAIへの信頼を構築しようとする、委員会のより広範なデジタル戦略の一部である。この指令は、契約上の責任請求と非契約上の責任請求の両方に適用され、医療機器から自動運転車両まで、幅広いAIアプリケーションを対象とする。既存の国内責任枠組み（製品責任規則など）と並行して機能するように設計されており、それらを完全に置き換えるものではない。
背景と立法文脈
欧州連合は、2010年代後半からAIに関する包括的な規制枠組みを開発してきた。2021年4月に初めて提案されたAI法は、透明性や人間による監視義務を含む、AIシステムに対するリスクベースの要件を確立する。しかし、AI法は民事責任には対処していない。AIシステムをどのように構築し使用すべきかの規則を定めるが、それらが引き起こす害に対して誰が支払うかは定めていない。AI責任指令は、加盟国全体での責任請求に対する調和されたアプローチを創設することで、このギャップを埋める。
この指令は、AIのための現代的な責任枠組みを求める2020年の欧州議会決議に続いて開発された。委員会は影響評価を実施し、既存の国内法に重大なギャップがあることを特定した。これらのギャップにより、AIシステムが関与する場合、被害者はしばしば因果関係を証明できないことがあった。この提案はまた、重要な部門でのMachine learningシステムの展開拡大に対応するものであり、その不透明な意思決定プロセスは伝統的な法的請求を困難にしている。
立法プロセスは提案が公表されて以来進行中である。欧州議会の法律問題委員会がテキストを審査しており、交渉は2024年から2025年まで続くと予想されている。この指令はAI法と密接に関連しており、その最終形態は並行する交渉の結果に依存する。
主要な規定
この指令は、AI責任の課題に対処するための2つの主要なメカニズムを導入する。第一に、申立人がAIシステムの過失が害を引き起こしたことを立証できる場合に、因果関係の反証可能な推定を創設する。この推定は、申立人が被告がAI法に基づく義務などの法的義務を遵守しなかったこと、および害がその不遵守の合理的な結果であることを示す場合に適用される。被告は、害が他の要因によって引き起こされたことを証明することで推定を覆すことができる。
第二に、この指令は申立人にAIシステムの提供者または利用者から関連する証拠の開示を要求する権利を付与する。この権利は、請求に必要かつ比例するものに限定され、営業秘密や機密情報を保護する。裁判所は、申立人が請求の妥当性を支持する十分な事実を提示した場合にのみ開示を命じることができる。証拠には、トレーニングデータ、モデルパラメータ、システムログが含まれ、これらは因果関係を確立するためにしばしば不可欠である。
この指令はまた、AIバリューチェーンにおける異なる主体の責任を明確にする。AIシステムの提供者、それを展開する利用者、および特定の場合の輸入者または販売者を区別する。因果関係の推定は、システムの関連する側面を誰が管理していたかに応じて、これらのいずれの当事者にも適用され得る。高リスクAIシステムについては、この指令はAI法の義務と整合しており、それらの義務の不遵守は推定を引き起こす可能性がある。
範囲と除外事項
この指令は、AIシステムによって引き起こされた損害（身体的害、物的損害、経済的損失を含む）に対する請求に適用される。意図的な行為と過失による行為の両方を対象とするが、厳格責任を創設するものではない。申立人は依然として過失または法的違反を証明しなければならない。この提案は、核損害、国内自動車保険制度の対象となる交通事故、および特定のEU法によってすでに規制されているその他の分野から生じる請求を明示的に除外する。
この指令は、AI法で定義されるAIシステムに適用される。これには、予測、推奨、決定などの出力を生成できるソフトウェアが含まれる。この定義は、Generative AIモデルやLarge language modelシステムを含む幅広い技術を対象とする。ただし、この指令は、EUの権限外である軍事、国家安全保障、または公共の安全目的にのみ使用されるAIシステムには適用されない。
この提案には、請求を提起するための3年の時効期間も含まれており、申立人が害と因果関係を認識した日または認識すべきであった日から開始される。これはEU加盟国の一般的な慣行と整合するが、連合全体で統一された基準を提供する。
製品責任指令との関係
AI責任指令は、並行して改訂された既存の製品責任指令と並行して機能する。製品責任指令は、ソフトウェアを含む欠陥製品に対する請求を厳格責任制度の下で対象とする。申立人は過失を証明する必要はなく、製品に欠陥があり害を引き起こしたことのみを証明すればよい。AI責任指令は、製品自体の欠陥ではなくAIシステムの使用から害が生じる場合を対象とすることでこれを補完する。
例えば、AI搭載医療機器が製造上の欠陥により誤動作した場合、製品責任指令が適用される。害が偏った意思決定などAIシステムのトレーニング方法や使用方法から生じる場合、AI責任指令が適用される可能性がある。2つの指令は相互排他的に設計されており、AI責任指令は製品責任指令が適用されない場合にのみ適用される。
委員会は、AI責任指令が国内責任法の基本原則を変更しないことを強調している。過失の定義や損害賠償額の計算を調和させるものではなく、これらは加盟国の法律に引き続き準拠する。代わりに、AI関連の事件で被害者が司法へのアクセスを容易にする手続規則に焦点を当てている。
AI開発者と展開者への影響
この指令は、特に証拠保存と文書化に関して、AIシステムの提供者と利用者に新たな義務を課す。提供者は、システムの設計、トレーニングデータ、運用パラメータに関する情報を含む、法的手続で使用できる記録を維持しなければならない。この要件はAI法の文書化義務と整合するが、責任特有の側面を追加する。
AI開発者にとって、この指令は堅牢なテストと監視プロセスを実装するインセンティブを創設する。因果関係の推定は、AI法要件の不遵守が立証責任を被告に移すことを意味し、申立人が勝訴しやすくなる。これは、システムの透明性を向上させるModel Pruningや、バイアスを減らすためのより厳格なData Augmentation慣行など、技術の採用を促進する可能性がある。
この指令は、業務でAIシステムを展開する企業を含むAI利用者にも影響を与える。利用者は、システムを適切に監督しなかった場合や、法的義務に違反する方法で使用した場合に責任を負う可能性がある。この指令は、人間による監視メカニズムやインシデント報告手順を含む、AI展開のための明確なポリシーを維持することを利用者に奨励する。
批判と議論
この提案は、関係者の間で重要な議論を生み出している。消費者団体は、被害者を保護する一歩としてこの指令を歓迎しているが、十分ではないと主張している。一部は、高リスクAIシステムに対する厳格責任制度を求めており、これにより過失を証明する必要性が完全に排除される。委員会はこのアプローチを拒否し、イノベーションを阻害し、AI開発者に過剰なコストを課すと主張した。
業界団体は、特に営業秘密に関する証拠開示の負担について懸念を表明している。この指令には、裁判所の監督や機密保持措置などの保護策が含まれているが、一部の企業は専有情報を露出するリスクが依然として高すぎると主張している。最終テキストには、AI提供者が要約形式で証拠を提出できるようにするなど、追加の保護策が含まれる可能性がある。
法律学者も、多くの加盟国の伝統的な不法行為法からの逸脱である因果関係の推定について議論している。一部は、推定が広すぎて軽率な請求につながる可能性があると主張し、他の者はAIシステムの「ブラックボックス」問題に対処するために必要であると主張している。欧州議会は、推定の範囲を明確にし、高リスクAIシステムにのみ適用されることを保証する修正案を提案している。
現在の状況と次のステップ
2024年現在、AI責任指令は交渉中である。欧州議会と欧州連合理事会はそれぞれの立場に取り組んでおり、両機関が修正案に合意した後、三者協議が開始される予定である。この指令は2024年3月に採択されたAI法と密接に関連しており、最終的な責任規則はAI法の要件と整合する必要がある。
委員会は、この指令が採択から2年以内に国内法に移行されるべきであると示している。このスケジュールにより、最終的な立法スケジュールに応じて、2026年または2027年までにほとんどの加盟国で指令が施行される。委員会はまた、指令の実施を監視することを約束しており、経験に基づいて修正を提案する可能性がある。
この指令は、AI責任規制に向けたより広範な世界的傾向の一部である。米国や中国を含む他の法域も、AI説明責任に対する独自のアプローチを開発している。EUの枠組みは、特に証拠開示や因果関係の推定の分野で、これらの取り組みに影響を与える可能性が高い。したがって、立法プロセスの結果は欧州連合を超えて影響を及ぼし、AI責任の世界的基準を形成することになる。