2021年欧盟人工智能法案提案是欧盟委员会关于在欧盟内部监管人工智能（AI）的初始立法提案。该提案于2021年4月21日提出，建立了一个基于风险的框架，将AI应用分为四个等级，，不可接受、高风险、有限和最小，，并为提供商和部署者规定了相应义务。该提案后来经过修订，以应对生成式AI系统的兴起，例如ChatGPT，随后于2024年作为最终的AI法案通过。
该提案源于欧盟更广泛的战略，旨在将欧盟定位为可信赖AI的领导者，在创新与基本权利保护之间取得平衡。它借鉴了欧洲议会和委员会AI高级别专家组此前的成果，这些成果呼吁建立一个能够适应快速技术变革的监管框架。原始文本旨在协调各国规则，防止市场碎片化，并确保投放欧盟市场的AI系统安全且遵守现有法律。
背景与立法历史
欧盟委员会自2018年以来一直在制定AI政策，当时它与成员国发布了一项关于AI的协调计划。2020年2月，委员会发布了一份AI白皮书，概述了政策选项并发起了公众咨询。反馈意见连同影响评估，为2021年4月21日由内部市场专员蒂埃里·布雷顿和副主席玛格丽特·维斯塔格提出的法规草案提供了信息。
该提案是更广泛数字一揽子计划的一部分，该计划还包括《数字服务法》和《数字市场法》。与这些侧重于在线平台的法规不同，AI法案针对的是技术本身，采用了类似于欧盟现有关于机械、玩具和医疗器械立法的产品安全模型。这种方法根据AI系统构成的风险水平，将义务分配给AI提供商（开发者）和部署者（用户）。
立法过程历时三年多。欧洲议会和欧盟理事会就修正案进行了谈判，针对生成式AI工具的快速采用做出了重大修改。最终文本于2024年3月13日由议会通过，并于2024年5月21日获得理事会批准，于2024年8月1日生效。然而，2021年提案作为这些谈判的基础，在历史上仍具有重要意义。
基于风险的分类
该提案的核心是一个四层风险金字塔，这一结构在最终法案中基本得以保留。这些类别旨在反映AI系统可能对健康、安全或基本权利造成的潜在危害。
不可接受风险
被视为构成不可接受风险的应用将被完全禁止。这包括操纵人类行为以规避自由意志的AI系统、利用特定群体（如儿童或残疾人）脆弱性的系统，以及根据个人特征或行为对个人进行排名的社会评分系统。该提案还禁止执法部门在公开可进入空间进行实时远程生物识别，但针对特定犯罪并有司法授权的狭窄例外情况除外。
高风险
高风险AI系统承担最广泛的义务。提案列出了八个具体领域：自然人的生物识别和分类；关键基础设施的管理和运营；教育和职业培训；就业和工人管理；获取基本私人和公共服务；执法；移民、庇护和边境控制；以及司法和民主进程的管理。高风险系统的提供商必须实施风险管理体系、使用高质量训练数据、维护技术文档、启用自动日志记录、确保透明度并提供人工监督。他们还必须在上市场前和系统整个生命周期内进行符合性评估。
有限风险
有限风险AI系统，如聊天机器人和深度伪造生成器，承担透明度义务。用户必须被告知他们正在与AI系统交互，并且由AI生成或操纵的内容必须如此标记。这旨在让个人能够做出知情选择并防止欺骗。
最小风险
大多数AI应用，包括视频游戏和垃圾邮件过滤器，被视为最小风险，不受监管。提案鼓励为这些系统制定自愿行为准则，但不施加强制性要求。成员国也被禁止为最小风险系统增加额外的国家规则，从而确保AI的单一市场。
通用AI与生成模型
最初的2021年提案没有明确涉及通用AI（GPAI）系统，这些系统可以跨不同领域执行广泛任务。随着2022年底和2023年生成式AI模型（如ChatGPT和其他基础模型）的爆炸性增长，这一空白变得明显。草案经过修订，为GPAI增加了一个专门类别，并规定了分级义务。
在修订后的框架下，所有GPAI模型必须提供技术文档、发布训练数据摘要并遵守版权法。开源模型（其权重和设计公开）面临减少的要求，例如只需发布训练数据摘要和版权政策。闭源模型必须满足更广泛的透明度义务。训练需要超过10^25次浮点运算的高影响模型被视为构成系统性风险，必须接受额外评估、对抗性测试和网络安全措施。
这一修订是对机器学习系统挑战的直接回应，这些系统可以针对众多应用进行微调，使得在原始风险类别下难以对其进行分类。该方法旨在平衡创新与监督，特别是针对由Google DeepMind和Anthropic等公司开发的最强大模型。
执行与治理
该提案建立了一个治理结构，以确保在整个欧盟范围内一致适用。它设立了一个欧洲人工智能委员会，由成员国和委员会的代表组成，以促进合作并提供指导。国家监督机构负责在其领土内执行该法规，并有权进行市场监督和施加处罚。
违规处罚设定为：涉及被禁止行为的违规，最高可处以公司全球年营业额的6%；其他侵权为4%；提供不正确信息为2%。这些罚款与《通用数据保护条例》下的罚款相当，反映了欧盟对强有力执行的承诺。
该提案还包括域外适用条款，这意味着来自欧盟以外的提供商如果向欧盟用户提供AI系统，将受该法规约束。这模仿了GDPR的做法，旨在为全球AI开发者创造公平的竞争环境。
豁免与范围
某些AI系统被排除在提案范围之外。这些包括专门用于军事、国防或国家安全目的的系统，以及仅为科学研究和发展而开发和投入使用的系统。该法规也不适用于用于个人非专业活动的AI。这些豁免旨在尊重成员国在安全事务上的主权，并避免阻碍研究环境中的创新。
然而，该提案并未豁免用于执法或移民控制的AI系统，尽管这些通常是国家职能。相反，它将它们置于高风险类别，并附加了人工监督和基本权利影响评估等额外保障措施。
影响与遗产
2021年提案是AI监管的一个里程碑，是主要司法管辖区提出的第一个全面的AI法律框架。它影响了全球后续的监管努力，包括欧洲委员会的AI公约和各种国家倡议。基于风险的方法被广泛讨论，一些学者称赞其灵活性，而另一些则批评潜在漏洞或过度监管。
在立法过程中，该提案经过修订以解决行业和公民社会的关切。例如，高风险应用列表得到细化，AI的定义与OECD保持一致。2024年通过的最终法案保留了2021年提案的核心结构，但增加了GPAI类别并调整了某些阈值。
该提案还引发了关于AI监管性质的学术和政策讨论。一些人认为产品安全模型适用于AI，而另一些人则呼吁采用更以人权为中心的方法。基本权利影响评估的纳入被视为一个进步步骤，建立在早期算法影响评估工作的基础上。
截至2025年，AI法案的规定正在分阶段实施，第一批关于被禁止行为和GPAI义务的最后期限已经生效。2021年提案仍然是理解欧盟及全球AI治理演变的关键参考点。