欧盟《人工智能法案》禁令是欧盟《人工智能法案》（AI Act）下的一套禁止性规定，该法案于2024年8月1日生效。这些禁令针对被归类为对基本权利、安全和民主价值观构成不可接受风险的人工智能应用。禁令于2025年2月2日开始适用，标志着该法规首个重大执法里程碑。这些禁令是更广泛的风险分级框架的一部分，该框架还管辖高风险、有限风险和最小风险的人工智能系统，以及通用人工智能模型。
《人工智能法案》由欧盟委员会于2021年4月21日提出，欧洲议会于2024年3月13日通过，欧盟理事会于2024年5月21日批准。该法案在欧盟范围内建立了统一的人工智能监管框架，其域外效力类似于《通用数据保护条例》。这些禁令旨在防止被认为与欧盟价值观根本不相容的人工智能用途，同时为执法和安全目的允许某些严格限定的例外情况。
禁止行为的范围
《人工智能法案》禁止部署潜意识、操纵性或欺骗性技术以扭曲行为并损害知情决策、造成重大伤害的人工智能系统。这包括利用个人或群体因年龄、残疾或社会经济状况而产生的脆弱性。同样被禁止的还有基于人工智能的社会评分系统，该系统根据个人行为、个人特征或社会互动对个人进行评估或分类，导致不利待遇。在公共场所为执法目的使用实时远程生物识别被禁止，除非在特定严重犯罪场景中并获得司法授权。此外，在工作场所或教育机构中推断情绪的人工智能系统被禁止，通过无针对性地从互联网或闭路电视录像中抓取数据来创建面部识别数据库的系统也被禁止。
执法与安全的豁免
某些禁止行为具有狭窄的豁免。执法部门可使用实时远程生物识别来定向搜寻绑架、人口贩运或性剥削的受害者，或防止对生命或安全构成的具体、实质性威胁。这些使用需要事先获得司法批准，并受严格的时间和地理限制。情绪识别禁令不适用于出于医疗或安全原因投放市场的人工智能系统，例如在医疗环境中检测痛苦。军事和国家安全人工智能系统完全豁免于《人工智能法案》，用于科学研究和开发的系统也同样豁免。
实施与执法
成员国须指定国家主管机构来监督禁令的适用。该法案设立的欧洲人工智能委员会促进合作与合规。违反禁止行为的处罚最高可达3500万欧元或公司全球年营业额的7%，以较高者为准。欧盟委员会已发布指南以澄清禁令的范围，特别是关于情绪识别和生物识别分类。
对人工智能开发与部署的影响
这些禁令对人工智能开发者和部署者具有重大影响。在欧盟运营的公司须进行彻底评估，以确保其人工智能系统不落入不可接受风险类别。这导致产品设计上的调整，特别是对于Generative AI系统和可能无意中操纵用户行为的Artificial intelligence应用。这些禁令还影响用于社交媒体算法、广告和人力资源的Machine learning模型，因为这些可能被视为操纵性或歧视性。一些非欧盟提供商选择限制在欧盟访问某些人工智能功能，以避免合规负担。
与其他《人工智能法案》条款的关系
这些禁令不同于高风险人工智能系统的义务，后者要求符合性评估、透明度和人工监督。有限风险系统，如Large language model聊天机器人，只需告知用户他们正在与人工智能交互。最小风险系统，如垃圾邮件过滤器，则不受监管。通用人工智能类别于2023年新增，以应对ChatGPT等系统，该类别施加透明度和版权义务，并对需要超过10^25次浮点运算的模型进行额外评估。这些禁令独立运作，意味着任何人工智能系统，无论其风险类别如何，都不能从事被禁止的行为。
全球影响与比较
欧盟《人工智能法案》禁令已影响全球人工智能监管。包括加拿大和巴西在内的其他司法管辖区在其立法提案中参考了欧盟框架。然而，这些禁令比美国的方法更为严格，美国依赖自愿指南和部门特定规则。该法案的域外效力意味着欧盟以外的人工智能提供商，如OpenAI生态系统或Google DeepMind中的提供商，如果向欧盟用户提供服务，则必须遵守。这导致全球企业政策与欧盟标准保持一致，即使在没有类似法律的地区也是如此。
批评与争论
法律学者和行业专家对禁令的清晰度和可行性进行了辩论。批评者认为，“操纵性技术”和“重大伤害”等术语模糊不清，可能导致执法不一致。其他人则认为，执法豁免过于宽泛，可能被滥用。支持者强调，这些禁令保护基本权利并树立全球基准。欧盟委员会承诺随着技术发展发布进一步指南并更新禁止行为清单，确保该法案对新兴风险保持响应性。
未来展望
截至2025年，禁令正在执行中，国家当局开始发出合规通知。欧盟委员会计划在2029年前审查实施情况，考虑技术发展和调整需求。这些禁令的成功将取决于成员国之间的有效协调以及适应新人工智能能力的能力。欧盟《人工智能法案》禁令代表了一项开创性的努力，旨在监管人工智能最具危害性的极端情况，在创新与保护个人权利之间取得平衡。