欧盟《人工智能法案》是欧盟制定的一项法规，旨在建立一个通用的人工智能监管框架。该法案于2024年8月1日正式生效，各项条款将在6至36个月内分阶段实施。法案将人工智能应用划分为不同风险类别：不可接受风险、高风险、有限风险和最小风险，并为通用人工智能设立了专门类别。被认定构成不可接受风险的应用将被直接禁止。该法案并未创设个体权利，而是对提供者和专业部署者施加义务；其适用范围可具有域外效力，即适用于向欧盟境内用户提供服务的非欧盟提供者。
对“不可接受风险”实践的禁令是该法规最具影响力的部分之一。它反映了一种政策选择，即针对某些可能损害基本权利和民主价值观的人工智能用途划定明确界限。尽管法案允许一定的灵活性，但除非有特定豁免情形，这些禁令是绝对的，欧盟委员会已提供相关指南以澄清禁令的适用范围。
禁令条款下的被禁止实践
法案的禁令涵盖利用漏洞、操纵行为、实施社会信用评分或部署特定形式生物识别监控的人工智能系统。具体而言，以下行为在欧盟境内任何地方均被视为不可接受，但存在少数狭窄的例外情形：
行为操纵与利用。 使用潜意识、操纵性或欺骗性技术以扭曲个人行为并造成重大伤害的人工智能系统被禁止。这包括利用个体弱点（如与年龄、残疾或社会经济状况相关的弱点），且该做法实质性扭曲行为并导致或可能导致该人或他人受到伤害的情形。例如，使用语音助手鼓励儿童进行危险行为的玩具即被禁止。
社会信用评分。 法案禁止基于个人在不同情境下的社会行为对其进行评估或分类的人工智能系统，如果由此产生的社会评分导致与原始数据或情况不相称的不利或有差别待遇。该禁令针对的是公共或私人行为者对公民进行社会信用评分的做法，这种评分导致在与原始数据无关的情境中受到更差待遇。
这些禁令旨在针对被认为最有害的具体实践，并使欧洲法律与公众期望和人权义务保持一致。
实时生物识别监控
该法规禁止在公开可进入的空间中，出于执法目的使用实时远程生物识别人工智能系统，除非在严格限定的情况下。实时指的是以无延迟、无显著滞后的方式进行的处理。该禁令适用于公共场所（如公园、街道、体育场及此类空间的数字版本）。它尤其针对为安全目的而实时识别个人的面部识别技术。
然而，某些狭窄界定的例外情形允许执法部门在必要时使用这些技术，前提是出于特定合法目的或重大利益。这些例外包括国家安全或法案中明确列出的情形：
- 寻找特定失踪人员。
- 恐怖袭击威胁。
- 起诉或侦测某些严重犯罪，如谋杀、儿童性虐待和强奸，，前提是使用被视为必要且符合严格保障措施。
所有此类使用必须获得独立行政法院或行政机关的授权。授权必须基于客观证据并明确目的，最终将范围限制在与一般法律框架一致的范围之内。在实践中，这些例外将允许执法部门在满足正当程序要求的情况下，在特殊案件中使用远程生物识别技术。
适用范围与豁免
若干类别完全不在《人工智能法案》的适用范围之内，包括专门用于军事、国防或国家安全目的的人工智能系统，以及用于纯科学研究或开发的人工智能系统（依据第2.3条）。此外，用于个人非专业用途的人工智能也不在范围内。禁令不适用于此类系统，但这并不免除在欧盟境内使用被禁止系统的组织者所承担的宪法保护义务。
实施时间表与禁令
对不可接受风险实践的禁令（依据第5条定义）将从2025年2月2日起适用。该日期设定为2024年8月1日生效后6个月。该法规由欧盟委员会于2021年4月21日提出，欧洲议会于2024年3月13日通过，欧盟理事会于2024年5月21日批准。最终文本加强了对通用人工智能兴起的考量（如大型语言模型），相关禁令也相应进行了细化，以涵盖操纵性用途和情绪识别。
宽限期旨在允许提供者对其人工智能系统进行修改以符合新限制，同时使当局能够做好准备。自禁令生效以来，贸易商和公共机构必须对其人工智能系统进行审计，以确保其不依赖任何被禁止的方法或不属于被禁止的类别。
此外，欧盟委员会已发布关于解释的指南，但由于措辞是政治妥协的产物，该指南仍相当宽泛。某些实践，例如利用弱势群体进行操纵，如果伤害并非必然发生或意图并非恶意，则可能不会被严格禁止。同样，对社会信用评分的禁令仅针对最严重、最具歧视性的待遇，但较不严重的后果可能仍属于高风险类别或其他监管义务的范畴。
执行与处罚
每个欧盟成员国指定一个负责市场监督的机构。这些机构有权对违规行为处以经济处罚。对于被禁止的实践，罚款最高可达3500万欧元或违规公司全球年营业额的7%，以较高者为准。这与《通用数据保护条例》（GDPR）的做法类似，机构还可采取纠正措施，例如禁止特定人工智能系统进入市场。
由于域外适用范围，总部位于欧盟以外的提供者必须在欧盟境内指定授权代表。即使公司总部设在他处，如果其在欧盟市场投放系统或向欧盟用户提供服务，仍可能被追究责任。
欧洲人工智能委员会
为监督整个监管框架，法案设立了欧洲人工智能委员会，由来自每个成员国的21名代表以及欧洲数据保护监督员组成。该委员会协调国家监督机构并发布指南和意见。特别是，它将促进对禁令解释和操作的一致方法。
该委员会还可能在调查未被明确列为禁止但被其评估为不可接受的实践方面发挥重要作用，但其主动采取行动的权利有限。它监督限制措施的实际应用。
更广泛的背景：《人工智能法案》的风险模型
被禁止的实践代表了风险金字塔的顶端。高风险人工智能应用面临合规义务，而有限风险应用则需遵守透明度要求，Generative AI系统（如深度伪造）必须披露其为人工智能生成。被禁止的清单针对的是对个人和社会构成实际威胁的行为。
请注意，高风险应用类别包括某些“生物识别识别”，但这并非不可接受风险。高风险系统必须进行合格评估，但如果不用于协助执法，则属于允许的使用。例如，匹配犯罪数据库中指纹的人工智能系统并非不可接受风险，但在拥挤空间中进行实时远程生物识别则属于被禁止之列。这是优先事项。
《人工智能法案》作为产品法规，并未建立私人诉讼权利，但确实对系统部署者施加了义务。它还设立了一个小组来协调并提供合规技术建议。一些影响评估指出，需要明确被禁止系统与高风险系统之间的界限，尤其是对于实际例外情况。欧盟委员会已承诺解决这一潜在问题。
潜在的全球影响
对社会信用评分的禁令以及相关做法，，加拿大和其他司法管辖区已将《人工智能法案》视为范本，科技行业也在一定程度上受到了影响。特别是，公共场所生物识别禁令反映了共识，即某些用途无法通过风险与安全及基本权利的权衡来合理化。
关于使用最小化生物识别识别的例外是否会被滥用，仍有待观察。短期内，像OpenAI、Anthropic和Google DeepMind这样的科技巨头已调整其政策以反映这些限制，这并非出于法律预防。这一禁令开创了先例，表明某些人工智能实践在民主社会中绝不可接受。
结论
欧盟《人工智能法案》中被禁止的实践是该法规的一个显著特征。针对强制性操纵、社会信用评分和实时生物识别监控划定红线，标志着重大的法律创新，在基本权利与不受约束的技术进步发生冲突时优先考虑前者。截至2025年初，公司必须仔细审计其人工智能系统以确保合规，而《人工智能法案》正在逐步实施其余义务，计划在未来几年内全面执行。委员会在解释被禁止实践的确切边界方面的活动将至关重要，禁令也将持续接受审查。任何立法变更都需要修订，但欧盟近期无意缩减这一领域。
随着每一项法案的实施，边界可能会调整，但对不可接受风险的严格禁止仍将是《人工智能法案》及欧盟数字政策的核心部分。