欧盟《人工智能责任指令》是欧盟委员会于2022年9月28日提出的一项拟议法律文书，旨在统一欧盟范围内因人工智能系统造成损害时的民事责任规则。该指令补充了欧盟《人工智能法案》，后者侧重于规范人工智能系统的要求，而前者则解决当人工智能系统造成损害时谁应承担法律责任的问题。它并未建立严格责任制度，而是调整程序规则，以减轻受害者在人工智能相关索赔中的举证负担。
该提案是欧盟委员会更广泛数字战略的一部分，该战略旨在通过确保受人工智能系统伤害的个人拥有切实可行的赔偿途径来建立对人工智能的信任。该指令适用于合同性和非合同性责任索赔，涵盖从医疗设备到自动驾驶车辆等广泛的人工智能应用。其设计初衷是与现有的国家责任框架（如产品责任规则）协同运作，而非完全取代它们。
背景与立法背景
自2010年代末以来，欧盟一直在制定全面的人工智能监管框架。《人工智能法案》于2021年4月首次提出，为人工智能系统确立了基于风险的要求，包括透明度和人工监督义务。然而，《人工智能法案》并未涉及民事责任，，它规定了人工智能系统应如何构建和使用，但未规定谁为它们造成的损害买单。《人工智能责任指令》通过在各成员国之间建立统一的索赔处理方法来填补这一空白。
该指令是在2020年欧洲议会决议呼吁为人工智能建立现代责任框架之后制定的。欧盟委员会进行的影响评估发现，现有国家法律存在重大缺口，当涉及人工智能系统时，受害者往往无法证明因果关系。该提案还回应了机器学习系统在关键领域的日益部署，这些系统不透明的决策过程使得传统的法律索赔变得困难。
自提案发布以来，立法进程一直在进行中。欧洲议会法律事务委员会一直在审查文本，预计谈判将持续到2024年和2025年。该指令与《人工智能法案》密切相关，其最终形式将取决于这些并行谈判的结果。
关键条款
该指令引入了两种主要机制来应对人工智能责任的挑战。首先，它建立了可反驳的因果关系推定，适用于索赔人能够证明人工智能系统的过错造成了损害的情况。当索赔人表明被告未能遵守法律义务（如《人工智能法案》规定的义务），且损害是该失败行为的合理后果时，此推定适用。被告可以通过证明损害由其他因素造成来反驳该推定。
其次，该指令赋予索赔人要求人工智能系统提供者或使用者披露相关证据的权利。此权利仅限于对索赔必要且相称的内容，并保护商业秘密和机密信息。只有在索赔人提出足够事实支持其索赔的合理性时，法院才能下令披露。证据可包括训练数据、模型参数和系统日志，这些对于确立因果关系通常至关重要。
该指令还明确了人工智能价值链中不同角色的责任。它区分了人工智能系统的提供者、部署该系统的使用者以及在某些情况下的进口商或分销商。因果关系推定可适用于这些角色中的任何一个，具体取决于谁控制了系统的相关方面。对于高风险人工智能系统，该指令与《人工智能法案》的义务保持一致，意味着不遵守这些义务可能触发推定。
范围与排除
该指令适用于人工智能系统造成的损害索赔，包括人身伤害、财产损害和经济损失。它涵盖故意和过失行为，但并未建立严格责任，，索赔人仍须证明过错或法律违规。该提案明确排除了因核损害、国家机动车保险计划涵盖的交通事故以及某些其他已受特定欧盟法律监管的领域引起的索赔。
该指令适用于《人工智能法案》中定义的人工智能系统，包括能够生成预测、建议或决策等输出的软件。此定义涵盖了广泛的技术，包括生成式人工智能模型和大型语言模型系统。然而，该指令不适用于专用于军事、国家安全或公共安全目的的人工智能系统，这些领域不在欧盟的职权范围内。
该提案还包括三年的索赔时效期限，从索赔人知道或应当知道损害及因果联系之日算起。这与欧盟成员国的常见做法一致，但为整个联盟提供了统一的基准。
与《产品责任指令》的关系
《人工智能责任指令》与并行修订的现有《产品责任指令》协同运作。《产品责任指令》涵盖缺陷产品（包括软件）的索赔，采用严格责任制度，，索赔人无需证明过错，只需证明产品存在缺陷并造成了损害。《人工智能责任指令》通过涵盖因使用人工智能系统而非产品本身缺陷引起损害的情况来补充前者。
例如，如果人工智能驱动的医疗设备因制造缺陷而故障，则适用《产品责任指令》。如果损害源于人工智能系统的训练或使用方式，例如有偏见的决策，则可能适用《人工智能责任指令》。这两项指令设计为相互排斥，《人工智能责任指令》仅在《产品责任指令》不适用的情况下适用。
欧盟委员会强调，《人工智能责任指令》并未改变国家责任法的基本原则。它并未统一过错的定义或损害赔偿的计算，这些仍由成员国法律管辖。相反，它侧重于程序规则，使受害者更容易在人工智能相关案件中诉诸司法。
对人工智能开发者和部署者的影响
该指令对人工智能系统提供者和使用者施加了新的义务，特别是在证据保存和文档记录方面。提供者必须维护可用于法律程序的记录，包括有关系统设计、训练数据和操作参数的信息。此要求与《人工智能法案》的文档义务一致，但增加了责任特定的维度。
对于人工智能开发者，该指令创造了实施稳健测试和监控流程的激励。因果关系推定意味着未能遵守《人工智能法案》要求可能将举证责任转移给被告，使索赔人更容易胜诉。这可能会鼓励采用模型剪枝和其他提高系统透明度的技术，以及更严格的数据增强实践以减少偏见。
该指令还影响人工智能使用者，包括在运营中部署人工智能系统的企业。如果使用者未能适当监督系统或违反法律义务使用系统，则可能被追究责任。该指令鼓励使用者为人工智能部署制定明确的政策，包括人工监督机制和事件报告程序。
批评与争论
该提案在利益相关者中引发了重大争论。消费者组织欢迎该指令作为保护受害者的一步，但它们认为力度不够。一些组织呼吁对高风险人工智能系统建立严格责任制度，这将完全消除证明过错的需要。欧盟委员会拒绝了这种方法，认为这会扼杀创新并对人工智能开发者施加过高成本。
行业团体对证据披露的负担表示担忧，特别是涉及商业秘密方面。该指令包含保障措施，如法院监督和保密措施，但一些公司认为暴露专有信息的风险仍然过高。最终文本可能包括对人工智能提供者的额外保护，例如允许他们以摘要形式提交证据。
法律学者也对因果关系推定进行了辩论，这在许多成员国的传统侵权法中是一种背离。一些人认为推定过于宽泛，可能导致轻率的索赔，而另一些人则认为这对于解决人工智能系统的“黑箱”问题是必要的。欧洲议会已提出修正案以澄清推定的范围，并确保其仅适用于高风险人工智能系统。
当前状态与后续步骤
截至2024年，《人工智能责任指令》仍在谈判中。欧洲议会和欧盟理事会正在制定各自的立场，预计一旦两个机构就修正案达成一致，三方会谈将开始。该指令与2024年3月通过的《人工智能法案》密切相关，最终的责任规则需要与《人工智能法案》的要求保持一致。
欧盟委员会表示，该指令应在通过后两年内转化为国家法律。这一时间表将使该指令在2026年或2027年在大多数成员国生效，具体取决于最终的立法日程。欧盟委员会还承诺监测该指令的实施情况，并可能根据经验提出修订。
该指令是更广泛的全球人工智能责任监管趋势的一部分。其他司法管辖区，包括美国和中国的，正在制定自己的人工智能问责方法。欧盟的框架可能会影响这些努力，特别是在证据披露和因果关系推定等领域。因此，立法进程的结果将产生超越欧盟的影响，塑造人工智能责任的全球标准。