欧盟AI法案通用人工智能实践准则是在欧盟《人工智能法案》下制定的自愿性治理框架。它为通用人工智能模型(包括大型语言模型和其他基础模型)的提供者提供了关于如何满足《人工智能法案》中规定的监管义务的详细指导。该准则经过多方利益相关者起草过程,于2025年定稿,旨在将高层次法律要求转化为具体、可操作的实践,涵盖透明度、版权合规和系统性风险管理。
该准则本身不具有法律约束力,但遵守该准则被推定表明符合《人工智能法案》对通用人工智能模型的要求。它由欧盟负责监督通用人工智能监管的机构AI办公室,与独立专家、行业代表和民间社会合作制定。最终版本于2025年7月发布,此前进行了一次公开咨询,收到了来自公司、研究人员和倡导团体的430多份意见。
背景与法律语境
欧盟《人工智能法案》于2024年8月通过,并于2024年8月1日生效,大部分条款逐步适用。通用人工智能模型,定义为在大规模数据上训练且能够执行广泛任务的AI模型,受该法案第五章下的特定义务约束。这些义务包括提供技术文档、发布训练内容摘要,以及实施尊重欧盟版权法的政策。
对于具有系统性风险的通用人工智能模型,,定义为累计计算能力超过10^25次浮点运算(FLOPs)的模型,,还有额外要求,如进行模型评估和对抗性测试。《人工智能法案》规定AI办公室应促进制定实践准则,以详细说明如何满足这些义务。通用人工智能实践准则是实现此目的的主要工具。
起草过程与时间表
起草过程始于2024年9月,当时AI办公室发起了一项咨询,以收集关于准则范围和内容的意见。2024年11月,AI办公室任命了四位独立主席:深度学习先驱、图灵奖得主约书亚·本吉奥;前欧洲议会议员玛丽特·沙克;版权法教授亚历山大·佩克特;以及数字政策专家安雅·费尔德纳。这些主席领导了专注于透明度、版权和系统性风险的工作组。
成立了四个工作组,每个工作组针对特定领域:透明度和版权相关条款、系统性风险识别与评估、技术风险缓解,以及治理与审查。每个组包括主要AI开发者(如OpenAI、Anthropic、Google DeepMind和Microsoft (AI))的代表,以及欧洲初创公司、开源社区和民间社会组织。这些组从2025年1月到4月定期开会,产生了连续草案。
第一份草案于2025年2月发布,随后第二份草案于2025年4月发布。AI办公室就第二份草案进行了公开咨询,收到了来自430多个利益相关者的反馈。最终版本于2025年7月10日通过,纳入了关于版权退出和系统性风险阈值等问题的修订。
关键条款:透明度与版权
准则的透明度章节要求通用人工智能模型提供者维护详细的技术文档,包括模型架构、训练数据来源和使用的计算资源。提供者还必须按照《人工智能法案》的要求,发布足够详细的训练内容摘要。准则规定,该摘要的结构应允许权利持有人识别其作品是否被使用,同时不泄露专有商业机密。
在版权方面,准则要求提供者实施一项政策,以遵守欧盟《数字单一市场版权指令》(2019/790),包括文本和数据挖掘例外以及退出机制。提供者必须做出合理努力,确保训练数据不包括权利持有人通过机器可读方式明确保留权利的作品。准则还鼓励使用技术工具,如robots.txt和内容注册表,以促进退出。
对于使用网络抓取数据的提供者,准则要求他们维护来源记录,并及时响应权利持有人的请求。它还建议采用“最大努力”标准来过滤退出内容,承认完全合规在技术上具有挑战性。最终版本软化了早期关于强制过滤的提议,反映了行业对可行性的担忧。
系统性风险管理
系统性风险章节适用于训练计算量超过10^25 FLOPs的通用人工智能模型,这是《人工智能法案》设定的阈值。截至2025年,这包括OpenAI的GPT-4和GPT-5、Anthropic的Claude 3以及Google的Gemini Ultra等模型。准则要求这些提供者进行严格的模型评估,包括红队测试和对抗性测试,以识别潜在危害,如网络攻击能力、生物威胁创建和失控风险。
提供者必须实施一个风险管理体系,包括风险评估框架、缓解措施和事件报告协议。准则规定,评估应尽可能由独立第三方进行,结果应与AI办公室共享。它还要求提供者监控部署后可能升级风险的新兴能力。
一个显著条款是要求提供者制定“系统性风险缓解计划”,至少每年更新一次。该计划必须解决与化学、生物、放射性和核(CBRN)威胁以及网络攻击和操纵相关的风险。准则鼓励与BAIR (Berkeley AI Research)和其他学术机构合作,开发评估基准。
治理与合规机制
准则在AI办公室下建立了一个治理结构,通过自我评估和审计相结合的方式监控遵守情况。提供者预计提交年度合规报告,AI办公室可针对投诉或新兴风险进行有针对性的审查。准则还创建了一个由独立专家组成的“通用人工智能实践准则小组”,就解释和更新提供建议。
对于开源模型,准则包含一个特殊章节,放宽了一些文档要求,承认公开权重发布的不同风险特征。然而,如果开源提供者的模型超过计算阈值,他们仍必须遵守版权义务和系统性风险条款。准则鼓励使用模型卡和数据表,这一做法由MIT CSAIL和其他研究团体推广。
不遵守准则不会自动触发处罚,但将举证责任转移给提供者,要求其证明替代的合规方式。《人工智能法案》规定,违反通用人工智能义务可处以最高全球年营业额3%的罚款,如果提供者未能满足基本法律要求,则可能适用。
行业反应与采用
主要AI公司对准则表示谨慎支持,尽管一些公司对行政负担和某些版权措施的可行性提出了担忧。OpenAI和Anthropic都发表声明,欢迎准则提供的清晰度,同时指出某些条款需要进一步技术开发。Google DeepMind强调了国际协调的重要性,因为准则可能影响其他司法管辖区的法规。
欧洲初创公司,如Mistral AI和Aleph Alpha,则更为批评,认为准则的文档要求可能使较小参与者处于不利地位。开源社区,以Hugging Face等团体为代表,欢迎对开放模型的放宽条款,但呼吁对什么构成“足够详细”的训练数据摘要提供更明确的指导。
包括Access Now和欧洲数字权利组织(EDRi)在内的民间社会组织赞扬了准则对透明度的强调,但敦促加强执行机制。他们指出,准则的自愿性质意味着提供者可以选择忽视它,并呼吁AI办公室进行主动审计,而不是依赖自我报告。
与其他法规和标准的关系
通用人工智能实践准则旨在补充其他欧盟工具,包括《数字服务法》和《通用数据保护条例》(GDPR)。它还与经合组织AI原则和欧洲委员会AI框架公约等国际倡议保持一致。准则参考了欧洲标准化机构CEN-CENELEC正在制定的技术标准,这些标准将提供更细粒度的规范。
准则对系统性风险的方法借鉴了Deep learning研究中的方法论,包括Neural network安全评估中使用的红队实践。它还纳入了Reinforcement Learning from AI Feedback (RLAIF)(基于AI反馈的强化学习)文献中的经验,这些经验指导了提供者如何使模型与安全指南保持一致。准则鼓励提供者与研究社区共享评估结果,培养透明文化。
未来修订与影响
准则被设计为一份活文档,每两年进行一次审查周期。首次审查定于2027年,届时AI办公室将评估准则是否有效降低了风险,以及是否需要调整阈值。准则关于版权和系统性风险的条款可能会随着技术能力和法律解释的发展而演变。
截至2025年底,准则已影响企业实践。包括OpenAI和Anthropic在内的几家提供者已发布初步合规报告,并更新其模型文档以符合准则的模板。准则还作为其他司法管辖区的参考,包括加拿大和日本,这些国家正在为基础模型制定类似框架。
准则的长期影响将取决于AI办公室的执行方法以及提供者建设性参与的意愿。虽然准则是自愿的,但其详细规范创造了强大的合规激励,因为偏离要求提供者必须证明替代措施的合理性。这种动态导致一些观察者将准则描述为“带硬边的软法”,反映了其尽管不具约束力,但有可能塑造AI行业行为。