《人工智能法案》（AI Act）是欧盟的一项法规，旨在欧盟内部为人工智能（AI）建立共同的监管和法律框架。该法案于2024年8月1日生效，其条款将在随后的6至36个月内逐步实施。该法案涵盖广泛行业中的大多数AI系统，但豁免仅用于军事、国家安全、研究目的或非专业用途的AI。作为一种产品监管形式，它不创设个人权利；相反，它对AI提供者以及在专业环境中使用AI的组织施加义务。
该法案根据非豁免AI应用造成伤害的风险进行分类。共有四个级别，，不可接受、高风险、有限、最低，，外加一个通用AI的额外类别。对于通用AI，施加了透明度要求，对开源模型的要求有所降低，并对高能力模型进行额外评估。该法案还设立了欧洲人工智能委员会，以促进国家合作并确保遵守该法规。与欧盟的《通用数据保护条例》类似，该法案可对欧盟以外的提供者具有域外效力，前提是他们在欧盟内有用户。
立法历史
欧盟委员会于2021年4月21日提出了《人工智能法案》。该法案于2024年3月13日通过欧洲议会，并于2024年5月21日获得欧盟理事会一致批准。法案草案经过修订，以应对生成式AI系统（如ChatGPT）日益流行的趋势，这些系统的通用能力不符合主要框架。通用AI类别于2023年添加，反映了大型语言模型和其他生成式AI系统的快速发展。
风险类别
该法案采用基于风险的方法，对AI系统的提供者和部署者分配监管义务。随着对健康、安全或基本权利的潜在影响增加，这些义务变得更加严格。类别如下：
- 不可接受风险 – 此类别中的AI应用被禁止，除非有特定豁免。这包括操纵人类行为的AI应用、在公共场所使用实时远程生物识别（如面部识别）的应用，以及用于社会评分（根据个人特征、社会经济地位或行为对个人进行排名）的应用。
- 高风险 – 预期对健康、安全或基本权利构成重大威胁的AI应用。这包括用于健康、教育、招聘、关键基础设施管理、执法或司法的AI系统。它们须遵守质量、透明度、人工监督和安全义务，在某些情况下，在部署前需要进行基本权利影响评估。它们必须在投放市场前以及整个生命周期内进行评估。公民有权对AI系统提出投诉，并有权获得影响其权利的高风险AI所做决定的解释。
- 有限风险 – 此类别中的AI系统具有透明度义务，确保用户被告知他们正在与AI系统互动。这包括生成或操纵图像、声音或视频（如深度伪造）的AI应用。
- 最低风险 – 这包括用于视频游戏或垃圾邮件过滤器的AI系统。大多数AI应用预计属于此类别。这些系统不受监管，且由于最大协调规则，成员国不能施加额外法规。关于此类系统设计或使用的现有国家法律被取代。建议采用自愿行为准则。
基于风险的方案遵循产品安全模式，确保监督侧重于可能产生重大风险的系统，同时允许对被认为不太敏感的使用采取更宽松的方法。一些法律学者认为，在实践中，该法案将“可信AI”定义为能够展示符合这些安全和风险阈值的系统。
通用AI义务
通用AI类别包括能够执行广泛任务的基础模型（例如ChatGPT）。通用AI模型的提供者必须发布训练数据摘要，采用遵守版权法的政策，并向下游提供者和监管机构提供技术文档。如果模型的权重和设计是开源的，开发者必须发布训练数据摘要和版权政策；闭源模型必须满足更广泛的透明度要求。
构成系统性风险的高影响力模型（需要超过10^25次浮点运算进行训练）必须接受额外评估。这些模型还必须进行模型评估和对抗性测试，评估并缓解偏见和安全故障等风险，报告严重事件，并确保足够的网络安全水平。
2025年7月10日发布的《通用AI行为准则》概述了关于透明度、版权以及安全和保障的三个主要章节，以帮助提供者证明符合《人工智能法案》。参与该准则是自愿的。
豁免
第2.3条和第2.6条豁免用于军事或国家安全目的或纯科学研究与开发的AI系统。该法规不适用于仅用于军事、国防或国家安全目的的AI系统，或仅用于科学研究的系统。非专业用途也获得豁免。
执法与域外效力
该法案设立了欧洲人工智能委员会，以促进国家合作并确保遵守该法规。与欧盟的《通用数据保护条例》类似，该法案可对欧盟以外的提供者具有域外效力，前提是他们在欧盟内有用户。这意味着OpenAI、Anthropic和Google DeepMind等公司如果向欧盟用户提供服务，可能须遵守该法案。
对AI发展的影响
《人工智能法案》的通用AI条款对AI系统的开发和部署具有重大影响。提供者现在必须从设计阶段就考虑透明度和版权义务。发布训练数据摘要的要求可能影响专有模型，而开源模型面临较低要求，可能鼓励更开放的开发。高能力模型的系统性风险评估可能影响超大型神经网络的训练，因为提供者可能需要为安全测试分配资源。
该法案还与机器学习和深度学习的更广泛趋势相互作用。例如，对透明度的关注与记录训练数据和模型行为的努力相一致，如模型剪枝和数据增强方面的研究所示。该法案对技术文档的要求可能促使提供者采用更严格的做法，例如Transformer架构和多头注意力机制中使用的做法。
反响与批评
《人工智能法案》收到了褒贬不一的反应。一些利益相关者欢迎其提供的监管清晰度，而另一些则对合规成本和可能抑制创新表示担忧。域外效力是一个特别争论点，因为它可能影响全球AI提供者。最低风险系统的自愿行为准则被视为一种灵活的方法，但一些人认为该法案的风险类别并不总是明确，特别是对于可在多种情境下使用的通用AI。
截至2025年，该法案正处于逐步实施阶段，条款自2024年8月起在6至36个月内生效。随着执法开始和判例法的发展，对AI行业的全面影响将变得更加清晰。