《人工智能法案》（AI Act）是欧盟的一项法规，旨在为整个欧盟的人工智能建立共同的监管和法律框架。它将人工智能应用分为四个风险等级，，不可接受、高风险、有限和最低，，外加一个针对通用人工智能的单独类别。具有不可接受风险的应用被完全禁止，但需遵守特定豁免。该法规于2024年8月1日生效，各项条款将在随后的6至36个月内分阶段实施。
对不可接受风险人工智能系统的禁令是《人工智能法案》基于风险的方法中最严格的层级。它针对那些对欧盟境内个人的基本权利、安全或民主进程构成明确威胁的人工智能应用。与必须满足合规义务的高风险系统不同，不可接受风险系统不允许进入欧盟市场，除非它们属于狭义定义的例外情况。该禁令具有域外效力，类似于《通用数据保护条例》，适用于欧盟境外但在欧盟境内拥有用户的服务提供商。
禁令范围
《人工智能法案》禁止以规避自由意志的方式操纵人类行为的人工智能应用，例如潜意识技术或利用特定群体（如儿童或残疾人）的脆弱性造成伤害。它还禁止社会评分，，即基于个人特征、社会经济地位或行为对个人进行排名，，当公共当局用于不利待遇时。在公共场所进行实时远程生物识别（包括面部识别）被禁止用于执法目的，但针对特定严重犯罪、恐怖主义或失踪人员有有限例外，且需获得司法授权。
其他被禁止的做法包括利用年龄、残疾或社会或经济状况的脆弱性的人工智能，以及在职场或教育环境中推断情绪的人工智能，除非出于医疗或安全原因。该清单是详尽无遗的；没有其他做法在此类别下自动被禁止。欧盟委员会可以通过授权法案更新清单，但任何扩展都需要完整的立法修订。
禁令豁免
《人工智能法案》第2.3条和第2.6条豁免专门用于军事、国防或国家安全目的的人工智能系统，以及纯科学研究和开发。这些豁免范围狭窄：人工智能系统必须仅用于这些目的，而非双重用途。非专业个人使用人工智能也不在范围内。豁免不适用于商业部署或民用环境中使用的系统，即使这些系统由军事或安全机构开发。
对于实时远程生物识别，禁令包含针对执法的特定例外，涵盖三种情况：寻找绑架或贩运受害者、防止迫在眉睫的严重恐怖威胁，以及定位或识别涉嫌严重犯罪（按国家法律定义）的人员。任何使用都必须获得司法或独立行政当局的授权，且决定必须基于客观证据。授权有时间限制和地理限制，并需向欧洲人工智能委员会进行强制报告。
历史背景和立法过程
欧盟委员会于2021年4月21日提出了《人工智能法案》。原始草案未包含通用人工智能的专门类别，但基于ChatGPT等生成式人工智能系统，，构建于大型语言模型之上，，的迅速崛起促使了修订。欧洲议会于2024年3月13日通过了该法案，欧盟理事会于2024年5月21日一致批准。最终文本纳入了通用人工智能类别，该类别于2023年添加，以应对能够执行广泛任务的基座模型。
对不可接受风险做法的禁令在初始提案中就已存在，但其范围在谈判过程中得到细化。早期草案包含对用于“操纵性技术”的人工智能的更广泛禁令，后来被缩小为专注于规避自由意志的技术。社会评分禁令也被澄清为专门适用于公共当局，而非私人实体，尽管导致不利待遇的私人使用可能仍会被其他条款涵盖。
合规与执行
该法案设立的欧洲人工智能委员会促进国家合作并确保一致执行。国家监管机构负责监督其成员国内的合规情况。对于不可接受风险系统，主要义务是不将其投放市场或使用。如果发现提供商或部署者使用被禁止的系统，他们将面临处罚，，对于违反禁令的行为，最高罚款为3500万欧元或全球年营业额的7%，以较高者为准。
执行是基于风险的：当局可以进行市场监督、要求提供文件并进行审计。该法案不创设个人权利，因此公民不能直接根据《人工智能法案》本身提起诉讼；他们必须依赖现有国家法律或《通用数据保护条例》。然而，公民可以向国家当局提交关于人工智能系统的投诉，包括他们认为属于不可接受风险禁令范围的系统。
与其他风险类别的关系
对不可接受风险系统的禁令与其他三个层级并列。高风险应用，，例如用于健康、教育、招聘、关键基础设施、执法或司法的人工智能，，必须遵守安全、透明和质量义务，并接受合格评估。一些高风险系统在部署前需要进行基本权利影响评估。有限风险系统，如深度伪造生成器，仅需履行透明义务。最低风险系统，如视频游戏人工智能或垃圾邮件过滤器，不受监管，且由于最大协调原则，成员国不能施加额外规则。
在实践中，不可接受和高风险之间的区别并不总是清晰。例如，用于招聘中情绪识别的人工智能系统可能被视为高风险（因为它影响招聘），但如果它利用脆弱性，也可能被禁止。欧盟委员会已发布指南以帮助分类边缘案例，但截至2025年，这些指南不具有约束力。法律学者指出，基于风险的方案遵循产品安全模型，其中监管义务随着对健康、安全或基本权利的潜在影响而增加。
通用人工智能与禁令
通用人工智能模型，包括基座模型，不会自动被禁止，但需遵守透明要求。开源模型必须发布训练数据摘要和版权政策；闭源模型面临更广泛的透明义务。需要超过10^25次浮点运算进行训练的高影响模型必须接受额外评估以应对系统性风险。2025年7月10日发布的通用人工智能实践准则概述了关于透明、版权和安全的章节，尽管参与是自愿的。
当通用人工智能用于被禁止的应用时，不可接受风险做法的禁令适用。例如，用于社会评分的生成式人工智能系统将被禁止，即使底层模型在其他方面是合法的。这产生了双重义务：提供商必须确保其模型不被用于被禁止的方式，部署者不得在此类环境中使用它们。该法案不要求提供商内置针对被禁止使用的技术保障措施，但他们必须提供文档，帮助部署者了解模型的能力和局限性。
影响与批评
该禁令受到民间社会团体的赞扬，认为其为人工智能监管树立了强有力的先例，特别是在面部识别和社会评分方面。然而，行业批评者认为禁令过于宽泛，可能抑制创新，尤其是在具有合法用途的机器学习应用中。一些法律专家指出，军事和国家安全豁免范围广泛，可能被利用，尽管该法案要求此类系统必须“专门”用于这些目的。
禁令的域外效力也引起了关注。非欧盟公司，包括OpenAI、Anthropic和Google DeepMind等主要人工智能开发商，必须确保其系统在为欧盟用户服务时不参与被禁止的做法。这导致了合规努力，如地理封锁或调整系统行为。截至2025年，尚未公开报告重大执法行动，但欧盟委员会已表示将优先监控不可接受风险系统。
《人工智能法案》对不可接受风险人工智能的禁令代表了对早期更自愿的人工智能治理方法的重大背离。它为某些应用设定了明确的红线，同时为高风险系统在严格条件下运作留出空间。条款的逐步实施意味着禁令的全面执行将于2027年8月完成，特定义务有更早的截止日期。实际影响将取决于国家当局如何解释豁免，以及欧盟委员会如何根据技术发展更新被禁止做法的清单。