《人工智能法案》（AI Act）是欧盟的一项法规，旨在为欧盟境内的人工智能建立共同的监管和法律框架。该法案于2024年8月1日生效，其条款将在随后的6至36个月内逐步实施。该法案涵盖广泛领域中的大多数人工智能系统，但豁免仅用于军事、国家安全、研究目的或非专业用途的人工智能。作为一种产品监管形式，它不创设个人权利；相反，它对人工智能提供者以及在专业环境中使用人工智能的组织施加义务。
该法案根据非豁免人工智能应用造成伤害的风险对其进行分类，设定了四个等级，，不可接受、高风险、有限和最小，，外加一个通用人工智能类别。这种基于风险的方案遵循产品安全模式，其中监管义务分配给人工智能系统的提供者和部署者，随着对健康、安全或基本权利的潜在影响增加，义务也变得更加严格。该结构旨在将监督重点放在可能产生重大风险的系统上，同时允许对不太敏感的使用采取更宽松的方法。
立法历史
欧盟委员会于2021年4月21日提出了《人工智能法案》。欧洲议会于2024年3月13日通过该法案，欧盟理事会于2024年5月21日一致批准。在立法过程中，草案经过修订以应对生成式人工智能系统（如ChatGPT）日益流行的趋势，这些系统的通用能力不符合主要框架。此次修订于2023年增加了通用人工智能类别，涵盖能够执行广泛任务的基座模型。
该法案还设立了欧洲人工智能委员会，以促进国家合作并确保合规。与欧盟的《通用数据保护条例》类似，该法案可适用于欧盟境外的提供者，前提是他们在欧盟境内有用户。
风险类别
不可接受风险
此类别中的人工智能应用被禁止，除非有特定豁免。在没有豁免适用的情况下，这包括操纵人类行为的人工智能应用、在公共场所使用实时远程生物识别（如面部识别）的应用，以及用于社会评分，，根据个人特征、社会经济地位或行为对个人进行排名，，的应用。
高风险
高风险应用是指预期对个人健康、安全或基本权利构成重大威胁的应用。值得注意的是，用于健康、教育、招聘、关键基础设施管理、执法或司法领域的人工智能系统属于此类别。这些系统须遵守质量、透明度、人工监督和安全义务。在某些情况下，它们在部署前需要进行基本权利影响评估（FRIA），，一种事前审查，以识别和减轻对基本权利的潜在影响。它们必须在投放市场前以及整个生命周期内接受评估。高风险应用列表可随时间扩展，而无需修改《人工智能法案》本身。公民有权对人工智能系统提出投诉，并有权获得影响其权利的高风险人工智能所做决定的解释。
有限风险
有限风险人工智能系统负有透明度义务，确保用户知晓他们正在与人工智能系统交互，并使他们能够做出明智的选择。此类别包括生成或操纵图像、声音或视频的人工智能应用，例如深度伪造。
最小风险
最小风险应用包括用于视频游戏或垃圾邮件过滤器的人工智能系统。大多数人工智能应用预计属于此类别。这些系统不受监管，且由于最大协调规则，成员国不能施加额外法规。关于此类系统设计或使用的现有国家法律将被覆盖。然而，建议采用自愿行为准则。
通用人工智能
通用人工智能类别于2023年新增，包括能够执行广泛任务的基座模型。如果模型的权重和设计开源，开发者必须发布训练数据摘要和版权政策。闭源模型必须满足更广泛的透明度要求。构成系统性风险的高影响力模型，，训练需要超过10^25次浮点运算，，必须接受额外评估。
除基本透明度义务外，该法案为通用人工智能模型提供者设定了一份共同义务清单。他们必须发布训练数据摘要、采用遵守版权法的政策，并向下游提供者和监管机构提供技术文档。被指定为构成系统性风险的模型还必须进行模型评估和对抗性测试，评估并减轻偏见和安全故障等风险，报告严重事件，并确保足够的网络安全水平。
一份于2025年7月10日发布的《通用人工智能实践守则》概述了关于透明度、版权以及安全与保障的三个主要章节，以帮助提供者证明合规性。参与该守则是自愿的。
豁免
第2.3条和第2.6条豁免用于军事或国家安全目的或纯科学研究与开发的人工智能系统，使其不受《人工智能法案》约束。该法规不适用于完全用于军事、国防或国家安全目的的人工智能系统，或仅为这些目的而开发和投入使用的系统。
实施时间表
该法规于2024年8月1日生效，条款在6至36个月内逐步实施。这种分阶段的方法使提供者和部署者有时间适应新义务。欧洲人工智能委员会支持国家合作和各成员国间的一致执法。
影响与解释
一些法律学者认为，在实践中，该法案将“可信赖人工智能”定义为能够证明符合安全和风险阈值的系统。根据欧洲议会研究服务处的初步评估，委员会的影响评估在比较基于风险框架的政策选项时，借鉴了利益相关者咨询和广泛现有研究。域外适用意味着拥有欧盟用户的非欧盟提供者也必须遵守，类似于《通用数据保护条例》的覆盖范围。
相关概念
《人工智能法案》的基于风险方法与更广泛的人工智能治理发展相关。其关于通用人工智能的条款与大型语言模型和生成式人工智能等技术相交织。对深度伪造的透明度要求与深度学习应用相关联。该法案对医疗保健和执法等高风险领域的关注反映了Google DeepMind和OpenAI等组织在其安全研究中也关注的问题。基本权利影响评估借鉴了早期算法影响评估的工作，类似于MIT CSAIL和斯坦福人工智能实验室等机构的研究。