欧盟《人工智能法案》表决是指2024年3月14日欧洲议会全体会议的表决，该表决正式批准了《人工智能法案》，这是一项具有里程碑意义的法规，为欧盟境内的人工智能建立了全面的法律框架。此次表决在法国斯特拉斯堡举行，523名欧洲议会议员投赞成票，46票反对，49票弃权，认可了2023年12月与欧盟理事会三方谈判达成的文本。这一批准标志着始于2021年4月的立法进程的完成，当时欧盟委员会首次提出《人工智能法案》，并使欧盟成为首个针对人工智能系统制定具有约束力规则的司法管辖区。
《人工智能法案》采用基于风险的方法，将人工智能应用分为四个层级：不可接受风险（禁止）、高风险（须遵守严格义务）、有限风险（透明度要求）和最小风险（自愿行为准则）。被禁止的做法包括政府的社会评分、执法部门在公共场所使用实时远程生物识别（有狭窄例外），以及操纵性或剥削性的人工智能系统。高风险人工智能系统，如用于关键基础设施、教育、就业、医疗保健和执法领域的系统，必须满足风险管理、数据治理、技术文档、透明度、人工监督和稳健性方面的要求。通用人工智能模型，包括大型语言模型，面临额外义务，其中系统性风险模型须接受更严格的评估和事件报告。
此次表决是全球Artificial intelligence治理中的关键事件，为其他司法管辖区树立了先例。该法规于2024年8月1日生效，并采用分阶段实施时间表：对不可接受风险实践的禁令自2025年2月起适用，通用人工智能义务自2025年8月起适用，高风险系统全面适用至2026年8月。《人工智能法案》还在欧盟委员会内设立了欧洲人工智能办公室，以监督实施和执行。
立法背景
《人工智能法案》的起源可追溯至欧盟委员会2020年关于人工智能的白皮书，该白皮书概述了在应对风险的同时促进可信人工智能的政策选项。委员会于2021年4月提出的正式提案是在欧洲议会呼吁建立监管框架的决议之后提出的。该提案经历了广泛谈判，理事会于2022年12月通过了其总体方针，议会于2023年6月达成谈判立场。三方谈判于2023年12月结束，产生了一份平衡创新与基本权利保护的折中文本。
过程中的关键辩论集中在人工智能的定义、禁止实践的范围以及通用人工智能的处理上。最终文本扩大了定义，以包括机器学习和基于逻辑的系统，并为基础模型引入了分级义务，该术语涵盖如Large language model等系统。2024年3月14日的议会表决是理事会于2024年5月21日正式通过之前的最后立法步骤，随后于2024年7月12日在《官方公报》上公布。
基于风险的框架
《人工智能法案》的核心创新是其风险金字塔，该金字塔根据潜在危害调整监管强度。不可接受风险的人工智能被直接禁止，包括使用潜意识技术扭曲行为、利用特定群体脆弱性、基于社会行为评估或分类个人（社会评分），或在公共场所使用实时远程生物识别进行执法，除非在司法授权下针对狭窄定义的严重犯罪场景。
高风险人工智能系统须接受合格评定，要求其满足数据质量、可追溯性、透明度、人工监督和准确性方面的标准。提供商必须实施风险管理体系、维护技术文档，并在欧盟数据库中注册。对于嵌入产品（如医疗设备或车辆）的高风险系统，《人工智能法案》与现有部门立法保持一致，要求可能涉及公告机构的合格评定程序。
有限风险的人工智能，如聊天机器人和深度伪造，必须披露用户正在与人工智能系统交互或内容为人工智能生成，以确保透明度。最小风险的人工智能，包括大多数消费类应用（如垃圾邮件过滤器或视频游戏），除现有法律外不承担额外义务，但该法案鼓励自愿行为准则。
通用人工智能与基础模型
谈判期间的一个重要补充是对通用人工智能（GPAI）模型的监管，这些模型能够执行广泛任务，包括支撑Generative AI应用的模型。《人工智能法案》区分了GPAI模型和具有系统性风险的GPAI模型，后者以高计算能力（超过10^25 FLOPs）或对内部市场的影响来定义。GPAI模型提供商必须维护技术文档、向下游开发者提供信息，并遵守版权法。系统性风险模型面临额外义务，包括进行模型评估、对抗性测试、评估和缓解系统性风险，以及报告严重事件。
这一框架直接影响先进人工智能系统的开发者，如OpenAI、Anthropic和Google DeepMind等生产大规模模型的公司。欧洲人工智能办公室成立于2024年2月，负责监督GPAI执法，包括制定合规实践准则。
执法与治理
《人工智能法案》建立了多层级治理结构。欧盟委员会通过欧洲人工智能办公室在监控GPAI和系统性风险模型方面发挥核心作用。由各国监管机构组成的欧洲人工智能委员会确保各成员国的一致适用。国家当局负责其他人工智能系统的市场监督和执法。
违规处罚力度较大：禁止实践最高罚款3500万欧元或全球年营业额的7%，大多数其他义务违规罚款1500万欧元或3%，提供不正确信息罚款750万欧元或1.5%。这些罚款旨在威慑违规行为，并反映了GDPR的执法方式。
该法案还建立了监管沙盒机制，允许公共当局在部署前为测试创新人工智能系统提供受控环境，旨在促进创新同时确保合规。
全球影响与反应
欧盟《人工智能法案》表决被广泛视为人工智能治理的分水岭时刻。它影响了全球的立法努力，包括美国关于安全、可靠和可信赖人工智能开发与使用的行政命令（2023年10月）和欧洲委员会关于人工智能的框架公约（2024年5月）。行业反应不一：一些公司欢迎监管清晰度，而另一些则对合规成本和可能抑制创新表示担忧。民间社会组织普遍赞扬该法案处理基本权利问题，但一些人认为某些条款（如执法豁免）过于宽松。
学者和研究人员指出，该法案基于风险的方法可以作为其他地区的模式，但也强调了实施中的挑战，特别是在人工智能技术的动态性质和技术标准需求方面。该法案的域外适用范围，即如果系统影响欧盟用户则适用于欧盟以外的提供商和部署者，进一步扩大了其全球影响力。
实施时间表
《人工智能法案》的分阶段实施旨在让利益相关者适应。关键日期包括：
- 2024年8月1日：生效。
- 2025年2月2日：不可接受风险实践的禁令适用。
- 2025年8月2日：GPAI模型义务和治理条款适用。
- 2026年8月2日：附件三所列高风险系统（如就业、教育、执法）全面适用。
- 2027年8月2日：嵌入受监管产品的高风险系统全面适用。
这一错开的时间表旨在平衡监管确定性与实践准备，欧盟委员会负责发布指导方针和标准以支持合规。
对人工智能发展的意义
欧盟《人工智能法案》表决代表了一项集体政治决策，旨在塑造Machine learning及相关技术的发展轨迹。通过设定明确界限，该法案旨在促进可信人工智能，鼓励对合规系统的投资，同时保护基本权利。它还创建了一个可能影响全球标准的监管基准，因为国际运营的公司可能选择与欧盟规则保持一致以进入单一市场。
对于研究人员和开发者，该法案引入了新责任，如记录训练数据和确保透明度。它还引发了对Neural network研究未来的疑问，特别是在Deep learning等领域，模型能力快速演进。该法案关于系统性风险的条款与前沿人工智能实验室尤为相关，这些实验室现在必须考虑更广泛的社会影响。
总之，欧盟《人工智能法案》表决不仅仅是一个程序性事件，而是人工智能治理中的一个基础性时刻，对技术、法律和社会具有深远影响。