欧盟人工智能责任指令是欧盟提出的一项法律文书，旨在统一人工智能系统造成损害时的民事责任规则。该指令由欧盟委员会于2022年9月28日提出，旨在解决当人工智能系统，特别是具有自主或半自主行为的系统，对个人或企业造成损害时出现的法律空白。它是更广泛的欧盟数字战略的一部分，该战略还包括人工智能法案，这是世界上第一个全面的人工智能监管框架。人工智能法案侧重于通过基于风险的要求来预防损害，而人工智能责任指令则侧重于损害发生后的赔偿，确保受害者能够有效寻求救济。
该提案回应了人工智能带来的独特挑战，例如“黑箱”问题，即机器学习模型的不透明性使得难以确定故障的具体原因。传统的责任规则通常要求索赔人证明过错或缺陷，对于可能通过深度学习和神经网络进化的人工智能系统并不适用。该指令旨在在所有欧盟成员国中建立统一的法律框架，减少目前各国责任法律中存在的碎片化现象，并为消费者和企业提供法律确定性。
背景与立法背景
欧盟人工智能责任指令与修订后的产品责任指令同时提出，两者都是欧盟委员会2020年数字时代一揽子计划的一部分。委员会的影响评估指出，现有的国家责任制度不足以应对人工智能相关的损害，导致欧盟各国结果不一致。该指令旨在补充2024年通过的人工智能法案，解决人工智能法案未涵盖的民事责任方面。人工智能法案为高风险人工智能系统设定了规则，包括透明度和人工监督义务，但并未为受害者提供索赔机制。人工智能责任指令填补了这一空白。
该提案经过了广泛的磋商和谈判。欧洲议会和欧盟理事会是共同立法者，截至2025年，该指令仍处于立法进程中。议会法律事务委员会已提出修正案，包括扩大适用范围以及更明确规定人工智能开发者和部署者的责任。理事会对总体方法表示支持，但要求澄清“高风险”人工智能的定义以及与产品责任指令的互动关系。
指令的主要条款
人工智能责任指令引入了两种主要法律机制，以减轻受害者的举证负担。首先，它确立了因果关系的推定：如果索赔人能够证明被告的过错（例如，未能遵守人工智能法案的要求）是损害的合理原因，法院可以推定该过错导致了损害，除非被告证明并非如此。这一推定在涉及复杂人工智能系统且因果关系难以确立的案件中尤为重要。其次，该指令赋予法院命令披露人工智能系统相关证据的权力，包括训练数据和算法日志，但须遵守保密和商业秘密保护。
该指令适用于提供者（开发或制造人工智能系统的实体）和部署者（以专业身份使用人工智能系统的实体）。提供者对人工智能系统本身的缺陷负责，而部署者可能对不当使用或未能维护系统负责。该指令并未建立严格责任制度；它维持了基于过错的方法，但在某些情况下转移了举证责任。这是对传统产品责任的重大偏离，传统产品责任通常要求证明缺陷的存在。
范围与定义
该指令对“人工智能系统”的定义与人工智能法案一致，涵盖广泛的技术，包括大型语言模型、生成式人工智能和变换器。它适用于物理和数字损害，包括财产损失、经济损失以及歧视或隐私侵犯等非物质损害。然而，该指令排除了因合同纠纷以及核损害或其他受特定国际公约管辖的领域引起的索赔。
该指令区分了人工智能法案中定义的“高风险”人工智能系统和其他人工智能系统。对于高风险系统，因果关系推定适用更广泛，反映了更高的损害可能性。对于非高风险系统，索赔人必须提供更多证据才能触发推定。该指令还包括一项“穿透”条款，允许即使损害是由第三方组件造成的，也可以向提供者索赔，前提是提供者将该组件集成到人工智能系统中。
对企业与消费者的影响
对于企业而言，人工智能责任指令引入了新的合规成本和潜在的法律风险。部署人工智能系统的公司，例如自动驾驶汽车或手术机器人，必须确保其维护充分的记录，并能响应法院的证据披露命令。该指令鼓励使用模型剪枝和其他提高可解释性的技术，因为这可以降低责任风险。对于中小型企业，委员会提议为符合人工智能法案要求的人工智能系统设立“安全港”，将责任限制在重大过失的情况下。
对于消费者而言，该指令旨在创造公平的竞争环境。它通过允许法院访问人工智能系统数据（这些数据通常由大型科技公司持有）来消除“黑箱”障碍。这对于涉及特斯拉自动驾驶或DeepMind医疗算法的案件尤为重要。该指令还澄清了部署者的责任不能通过合同条款排除，从而保护使用人工智能服务的消费者。
与产品责任指令的关系
人工智能责任指令与修订后的产品责任指令并行运作，后者也于2022年提出并于2024年通过。产品责任指令涵盖包括软件在内的缺陷产品，并对制造商施加严格责任。相比之下，人工智能责任指令涵盖更广泛的人工智能相关损害，包括由服务或多个人工智能系统之间的交互造成的损害。这两个指令旨在互补：产品责任指令适用于缺陷产品造成损害的情况，而人工智能责任指令适用于损害源于人工智能系统运行的情况，即使未识别出产品缺陷。
在实践中，受害者可能根据两个指令提出索赔。例如，如果人形机器人因软件错误而故障，受害者可以根据产品责任指令起诉制造商，并根据人工智能责任指令起诉部署者。这两个指令包含协调条款，以避免双重赔偿，并确保最合适的被告承担责任。
批评与争论
人工智能责任指令受到了各利益相关方的批评。科技公司，包括OpenAI和Anthropic，认为因果关系推定可能通过使起诉人工智能开发者变得过于容易而扼杀创新。他们争辩说，“黑箱”问题并非人工智能独有，现有的责任规则已经足够。一些法律学者也对该指令的有效性提出质疑，指出因果关系推定在实践中可能难以应用，特别是当损害由多种因素共同造成时。
另一方面，消费者权益组织对该指令表示欢迎，但认为其力度不够。他们呼吁对高风险人工智能实行严格责任制度，类似于缺陷产品的责任。欧洲议会已提出加强该指令的修正案，包括更广泛的“损害”定义和更长的诉讼时效。理事会则更为谨慎，强调需要避免过度监管并保护商业秘密。
当前状态与后续步骤
截至2025年，人工智能责任指令仍在谈判中。欧洲议会于2024年通过了其立场，理事会预计将于2025年通过其立场。一旦两个机构达成共同立场，该指令将被正式通过，随后由成员国转化为国内法，可能需时两年。该指令将适用于转化日期之后投放市场的人工智能系统，并为现有系统设定过渡期。
最终文本可能与原始提案有显著差异，因为共同立法者寻求在创新和消费者保护之间取得平衡。该指令是欧盟成为值得信赖的人工智能全球领导者雄心的重要组成部分，与人工智能法案和修订后的产品责任指令并列。其成功将取决于如何有效解决人工智能相关损害中证明因果关系的实际挑战。
结论
欧盟人工智能责任指令代表了将民事责任规则适应人工智能时代的开创性尝试。通过引入因果关系推定和证据披露机制，它旨在使受害者更容易获得赔偿，同时维持基于过错的方法，不过度加重人工智能开发者的负担。该指令并非没有争议，但它反映了人们日益认识到现有法律框架不足以应对人工智能带来的独特风险。随着立法进程的继续，该指令很可能成为其他司法管辖区的范本，包括同样在应对人工智能责任问题的美国和日本。