《人工智能法案》（AI Act）是欧盟的一项法规，旨在欧盟内部为人工智能（AI）建立一个共同的监管和法律框架。该法案于2024年8月1日生效，其条款将在随后的6至36个月内逐步适用。该法案涵盖了广泛领域中的大多数人工智能系统，但豁免了仅用于军事、国家安全、研究目的或非专业用途的人工智能。作为一种产品法规，它并未创设个人权利；相反，它规定了人工智能提供者以及在专业背景下使用人工智能的组织的义务。
该法案根据造成伤害的风险将非豁免的人工智能应用分为四个级别，，不可接受、高风险、有限和最小，，外加一个通用人工智能类别。对于通用人工智能，规定了透明度要求，对开源模型的要求有所降低，并对高能力模型提出了额外评估。该法案还设立了欧洲人工智能委员会，以促进国家间的合作并确保合规。与欧盟的《通用数据保护条例》类似，该法案可适用于欧盟境外的提供者，只要他们在欧盟境内拥有用户。
立法历史
欧盟委员会于2021年4月21日提出了《人工智能法案》。该草案经过修订，以应对生成式人工智能系统（如ChatGPT）日益流行的问题，这些系统的通用能力并不符合主要框架。欧洲议会于2024年3月13日通过了该法案，欧盟理事会于2024年5月21日一致批准。该法规于2024年8月1日生效，并分阶段实施：对不可接受风险系统的禁令自2025年2月起适用，通用人工智能义务自2025年8月起适用，大多数高风险条款自2026年8月起适用。
风险类别
该法案基于风险的方案遵循产品安全模式，其中监管义务被分配给人工智能系统的提供者和部署者，随着对健康、安全或基本权利潜在影响的增加，义务要求也更为严格。这种结构确保监管侧重于可能产生重大风险的系统，同时允许对较不敏感的使用采取更宽松的方法。
不可接受风险
此类别中的人工智能应用被禁止，除非有特定豁免。当没有豁免适用时，这包括操纵人类行为的人工智能应用、在公共场所使用实时远程生物识别（如面部识别）的应用，以及用于社会评分（根据个人特征、社会经济状况或行为对个人进行排名）的应用。
高风险
高风险人工智能应用是指那些预期会对健康、安全或基本权利构成重大威胁的应用。值得注意的是，用于健康、教育、招聘、关键基础设施管理、执法或司法领域的人工智能系统均属于此类别。它们需遵守质量、透明度、人工监督和安全义务，在某些情况下，还需在部署前进行基本权利影响评估（FRIA）。FRIA是一种事前审查，旨在识别并减轻对基本权利的潜在影响。早期关于算法影响评估的研究表明，此类工具应识别受影响的个人和社区，描述可能的危害，并为公众和机构审查提供基础。高风险系统必须在投放市场前以及整个生命周期内进行评估。高风险应用的列表可以随时间扩展，而无需修改《人工智能法案》本身。公民有权就人工智能系统提出投诉，并有权获得影响其权利的高风险人工智能所做决定的解释。
有限风险
此类别中的人工智能系统具有透明度义务，确保用户知晓他们正在与人工智能系统交互，并使他们能够做出明智的选择。这包括生成或操纵图像、声音或视频的人工智能应用，例如深度伪造。
最小风险
此类别包括用于视频游戏或垃圾邮件过滤器的人工智能系统。大多数人工智能应用预计将属于此类别。这些系统不受监管，且由于最大协调规则，成员国不能施加额外法规。关于此类系统设计或使用的现有国家法律将被覆盖。然而，建议采用自愿性行为准则。
通用人工智能条款
2023年新增的通用人工智能类别包括能够执行广泛任务的基础模型，例如像ChatGPT这样的大型语言模型。如果模型的权重和设计是开源的，开发者必须发布训练数据摘要和版权政策；闭源模型则必须满足更广泛的透明度要求。构成系统性风险的高影响力模型（训练所需浮点运算超过10^25次）必须进行额外评估。
一份通用人工智能行为准则于2025年7月10日发布，概述了关于透明度、版权以及安全与保障的三个主要章节，以帮助提供者证明其符合《人工智能法案》。参与该准则属于自愿行为。
除了基本的透明度义务外，该法案还为通用人工智能模型提供者设定了一份共同的义务清单。他们必须发布训练数据摘要，采用遵守版权法的政策，并向下游提供者和监管机构提供技术文档。被指定为构成系统性风险的模型还必须进行模型评估和对抗性测试，评估并减轻偏见和安全故障等风险，报告严重事件，并确保足够的网络安全水平。
豁免
第2.3条和第2.6条豁免了用于军事或国家安全目的或纯科学研究与开发的人工智能系统，使其不受《人工智能法案》约束。当人工智能系统仅用于军事、国防或国家安全目的，或仅用于科学研究的系统开发和投入使用，该法规不适用。非专业用途也被豁免，这意味着个人人工智能应用不在覆盖范围内。
执行与域外效力
该法案设立了欧洲人工智能委员会，以促进国家间的合作并确保合规。与GDPR类似，该法案可适用于欧盟境外的提供者，只要他们在欧盟境内拥有用户。这意味着总部位于美国、亚洲或其他地方的公司，在向欧盟居民提供人工智能服务时必须遵守该法案。每个成员国的国家监管机构负责执行，对违规行为的处罚最高可达全球年度营业额的7%（针对被禁止的做法），但来源中未提供具体数字。
对人工智能发展的影响
《人工智能法案》的通用人工智能规则对生成式人工智能系统的开发者具有重大影响。例如，OpenAI、Anthropic和Google DeepMind必须确保其模型在欧盟部署时满足透明度和文档要求。开源模型，例如来自Meta（不在提供的列表中，但隐含提及）的模型，受益于减少的义务，从而鼓励模型开发的透明度。该法案还影响全球标准，因为其他司法管辖区可能采用类似的基于风险的方法。分阶段实施为提供者提供了适应时间，但对高能力模型的系统性风险评估可能会影响人工智能研究和部署的节奏。