欧盟人工智能法案风险等级

译自英文

欧盟《人工智能法案》风险分级将人工智能系统划分为四个风险等级,,不可接受、高风险、有限风险和最小风险,,外加一个通用人工智能类别,并施加随潜在危害程度递增的监管义务。该法规于2024年8月1日正式生效。

欧盟《人工智能法案》风险分级是欧盟《人工智能法案》(AI Act)确立的基于风险的分类框架,该法规于2024年8月1日生效。该法案在欧盟范围内为人工智能建立了共同的监管和法律框架,覆盖多个领域的绝大多数人工智能系统。它将非豁免的人工智能应用分为四个层级,,不可接受风险、高风险、有限风险和最小风险,,并另设通用人工智能类别。风险分级决定了人工智能提供者和部署者所承担的义务,遵循产品安全模式,即随着对健康、安全或基本权利的潜在影响增大,义务要求也更为严格。

该法案由欧盟委员会于2021年4月21日提出,2024年3月13日通过欧洲议会审议,并于2024年5月21日获得欧盟理事会一致批准。草案经过修订,以应对生成式人工智能系统的兴起,例如大型语言模型,其通用能力并不符合主要框架的设定。该法规不创设个人权利,而是对人工智能提供者和专业用户施加义务,并且如果欧盟以外的提供者在欧盟境内有用户,该法规可具有域外效力。

不可接受风险

具有不可接受风险的应用被 outright 禁止,但有特定豁免情形。在无豁免适用时,该类别包括操纵人类行为的人工智能系统、在公共场所使用实时远程生物识别(如面部识别)的系统,以及用于社会评分,,即根据个人特征、社会经济状况或行为对个人进行排名的系统。该禁令是绝对的,意味着任何合格评定或缓解措施都不能允许此类系统进入欧盟市场。

高风险

高风险人工智能应用是指那些预计会对人员的健康、安全或基本权利构成重大威胁的应用。值得注意的是,用于健康、教育、招聘、关键基础设施管理、执法或司法领域的人工智能系统均属于此类别。它们必须遵守安全、透明度和质量义务,并在部署前接受合格评定。在某些情况下,需要进行基本权利影响评估(FRIA),,这是一种事前审查,用于识别和缓解对基本权利的潜在影响。高风险系统必须在投放市场前以及整个生命周期内接受评估。高风险应用清单可在不修改《人工智能法案》本身的情况下随时间扩展。公民有权就人工智能系统提出投诉,并有权获得影响其权利的高风险人工智能所做决定的解释。

有限风险

有限风险人工智能系统负有透明度义务,确保用户知晓他们正在与人工智能系统交互,并使其能够做出知情选择。该类别包括生成或操纵图像、声音或视频的应用,例如基于深度学习的深度伪造。透明度义务比高风险系统更轻,但仍要求向用户进行明确披露。

最小风险

最小风险人工智能系统不受《人工智能法案》监管。该类别包括例如用于视频游戏或垃圾邮件过滤器的人工智能。大多数人工智能应用预计属于此类别。由于最大协调规则,欧盟成员国不能对此类系统施加额外监管,且有关其设计或使用的现有国家法律将被覆盖。不过,建议提供者遵循自愿性行为准则。

通用人工智能

2023年新增的通用人工智能类别包括能够执行广泛任务的基础模型,例如OpenAI的ChatGPT或AnthropicGoogle DeepMind的模型。如果模型的权重和设计开源,开发者必须发布训练数据摘要和版权政策;闭源模型则必须满足更广泛的透明度要求。构成系统性风险的高影响力模型,,训练所需浮点运算超过10^25次,,必须接受额外评估,包括模型评估、对抗性测试、针对偏见和安全故障的风险缓解、严重事件报告以及充分的网络安全措施。2025年7月10日发布的《通用人工智能实践准则》概述了关于透明度、版权以及安全与保障的三个主要章节,以帮助提供者证明合规性。参与该准则属于自愿行为。

豁免

《人工智能法案》第2.3条和第2.6条豁免了专用于军事、国防或国家安全目的的人工智能系统,以及纯科学研究与开发用途的系统。该法规也不适用于非专业用途的人工智能。这些豁免范围狭窄,不涵盖具有民用应用的军民两用系统。

实施与执行

《人工智能法案》的各项条款在生效后6至36个月内逐步实施。该法案设立了欧洲人工智能委员会,以促进国家间合作并确保合规。与欧盟《通用数据保护条例》类似,《人工智能法案》可对欧盟以外但在欧盟境内有用户的提供者具有域外效力。基于风险的方案旨在将监管重点放在可能产生重大风险的系统上,同时对不太敏感的使用采取更宽松的方式。根据欧洲议会研究服务处的初步评估,委员会在比较该框架的政策选项时,参考了利益相关者咨询和广泛的现有研究。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:eu-regulation·artificial-intelligence·risk-management·technology-law
本页最后编辑于 2026年9月12日 编辑者 AI Wiki Bot · 历史