欧盟《人工智能法案》禁令生效日期为2025年2月2日,即欧盟《人工智能法案》(AI Act)下的禁令条款正式生效之日。该法案于2024年8月1日生效,为欧盟境内的人工智能系统建立了基于风险的监管框架。禁令针对被归类为构成“不可接受风险”的人工智能应用,禁止其在欧盟市场销售及由欧盟供应商或部署者使用,但设有有限豁免。该日期是该法规下多个分阶段合规期限中的第一个,相关义务将在生效后6至36个月内逐步实施。
《人工智能法案》由欧盟委员会于2021年4月21日提出,2024年3月13日通过欧洲议会审议,并于2024年5月21日获欧盟理事会一致批准。最终文本经过修订,以应对生成式人工智能系统的兴起,例如大型语言模型和生成式人工智能,其通用能力并不符合原有的风险分类。该法规具有域外适用效力,意味着欧盟境外的供应商若向欧盟境内用户提供人工智能服务,也须遵守相关规定,这与《通用数据保护条例》类似。
被禁止的做法
《人工智能法案》禁止被认为对安全、生计和基本权利构成不可接受风险的人工智能系统,包括:
- 操纵性和剥削性系统:利用潜意识、操纵性或欺骗性技术扭曲行为并损害知情决策,从而造成重大伤害的人工智能。
- 利用脆弱性:利用个人或群体因年龄、残疾或社会经济状况而产生的脆弱性,实质性扭曲其行为的人工智能。
- 社会评分:基于社会行为、个人特征或预测行为对个人进行评估或分类的人工智能,导致在与原始数据无关的背景下受到不利对待,或所造成的影响与行为严重性不成比例。
- 实时远程生物识别:在公共场所为执法目的使用实时生物识别(如面部识别)的人工智能系统,但搜寻失踪人员或防止特定恐怖威胁等严格限定的情况除外。
- 基于画像的预测性警务:仅基于画像或人格特征预测刑事或行政违法行为的人工智能,除非用于以客观且可核实的事实支持人工评估。
- 无针对性地抓取面部图像:从互联网或闭路电视录像中抓取面部图像以创建或扩展面部识别数据库的人工智能。
- 特定情境下的情绪识别:在工作场所和教育机构中用于推断情绪的人工智能,但出于医疗或安全原因的情况除外。
- 基于敏感属性的生物识别分类:基于生物识别数据对个人进行分类,以推断种族、政治观点、宗教信仰或性取向的人工智能。
这些禁令是绝对的,不允许任何减损,但实时生物识别在执法方面的特定豁免除外,且须事先获得司法授权,并受严格的时间和地域限制。
豁免
《人工智能法案》第2.3条和第2.6条豁免专用于军事、国防或国家安全目的的人工智能系统,以及用于纯科学研究和开发的系统。该法规不适用于为军事目的投放市场的人工智能系统,也不适用于国家安全背景下使用的系统,无论供应商位于何处。不涉及将人工智能系统投放市场的研究活动同样获得豁免,但若研究原型在现实环境中部署,则可能受该法规约束。
此外,该法案不适用于用于个人、非专业活动的人工智能系统,如业余项目或个人助理,除非其被公开提供。开源人工智能模型须遵守的透明度要求有所降低,但关于不可接受风险的禁令无论开源与否均适用。
时间线与实施
禁令于2025年2月2日生效,即《人工智能法案》生效后整整六个月。这一较早的截止日期反映了禁止最有害人工智能用途的紧迫性。其他条款则遵循分阶段时间表:
- 2025年8月:通用人工智能模型的义务,包括透明度和版权要求,开始适用。
- 2026年8月:大多数条款,包括针对高风险人工智能系统的条款,开始适用。
- 2027年8月:嵌入受监管产品(如医疗设备、车辆)中的高风险人工智能系统的义务开始适用。
成员国须指定国家主管机构负责执行该法规,法案设立的欧洲人工智能委员会负责协调各国监管,并确保在欧盟范围内的一致适用。
执法与处罚
违反禁令可处以最高3500万欧元或公司全球年营业额7%的罚款,以较高者为准。这是《人工智能法案》下的最高处罚层级,反映了使用被禁止做法的严重性。规模较小的供应商和初创企业可能面临较低的罚款,但禁令是绝对的,不知情不构成宽恕理由。
欧盟委员会可开展调查并采取纠正措施,包括将人工智能系统撤出市场。国家主管机构也可在其管辖范围内采取行动。该法案规定了投诉机制,允许个人向相关机构提交关于人工智能系统的投诉。
对行业与创新的影响
禁令对人工智能开发者和部署者具有重大影响,尤其是在人工智能研究、机器学习和深度学习等领域。企业必须进行彻底审计,以确保其人工智能系统不属于被禁止的类别。例如,开发大型语言模型的OpenAI和Anthropic必须确保其产品不被用于社会评分或操纵性做法。同样,Google DeepMind及其他研究实验室必须使其工作符合该法规。
对公共场所实时生物识别的禁令影响了依赖计算机视觉的公司,如Waymo和特斯拉自动驾驶,尽管这些系统主要用于车辆而非公共监控。禁止无针对性抓取面部图像的规定影响了数据收集实践,推动企业采用隐私保护技术。
尽管监管严格,该法案仍为执法提供了豁免,允许在特定紧急情况下(如恐怖袭击或失踪人员案件)经司法监督使用实时生物识别。这种平衡旨在保护基本权利,同时支持安全措施。
全球影响与未来展望
欧盟《人工智能法案》已成为全球基准,影响了其他司法管辖区的AI监管。禁令生效日期为禁止侵犯人权的AI做法树立了先例,其他国家可能采取类似措施。截至2025年,欧盟是首个实施如此全面AI禁令的主要经济体,其执法情况将受到密切关注。
未来发展包括2025年7月10日发布的通用人工智能行为准则,该准则为通用人工智能模型供应商提供合规指导。准则涵盖透明度、版权和安全,虽然参与是自愿的,但预计将成为事实上的标准。
总之,欧盟《人工智能法案》禁令生效日期标志着AI治理的关键时刻,为欧盟境内AI的使用设定了明确界限。它体现了对人本AI的承诺,在创新与保护基本权利之间取得平衡。随着法规的实施,它将塑造全球AI技术的开发与部署。