科罗拉多州人工智能法案是科罗拉多州于2024年颁布的一部消费者保护法律，旨在规范高风险人工智能系统的使用。该法案是美国首批旨在解决人工智能决策中算法歧视问题的综合性州级法规之一。该法律对人工智能系统的开发者与部署者均施加了义务，这些系统会对消费者做出具有重大影响的决策，例如涉及就业、住房、教育及金融服务等方面的决策。
该法案将“高风险人工智能系统”定义为任何做出重大决策或在该决策中构成实质性因素的人工智能系统。重大决策包括对消费者产生显著影响的决策，例如招聘、晋升、信贷、保险以及公共设施使用等。该法律不适用于仅用于某些狭窄目的的人工智能系统，例如反欺诈、网络安全或内部业务运营，除非这些系统对消费者产生显著影响。
背景与立法背景
科罗拉多州的立法努力源于公众对人工智能社会影响日益增长的担忧，尤其是在人工智能、机器学习和生成式人工智能等领域。在联邦层面人工智能监管仍处于碎片化状态之际，多个州开始提出各自的规则。科罗拉多州的法律于2024年立法会议期间提出，并在两党支持下获得通过，反映了州级人工智能治理的更广泛趋势。
该法案于2024年5月17日由州长贾里德·波利斯签署成为法律，使科罗拉多州成为首个颁布综合性人工智能歧视法律的州。该法案定于2026年2月1日生效，为相关方留出了合规时间。
主要条款
开发者义务
高风险人工智能系统的开发者必须采取合理谨慎的措施，保护消费者免受已知或可预见的算法歧视风险。他们需要实施风险管理框架，其中包括：
- 建立治理结构以监督人工智能开发。
- 记录设计、训练和测试过程。
- 开展影响评估，以识别潜在的歧视性结果。
- 向部署者提供有关系统能力与局限性的披露信息。
开发者还必须向部署者提供遵守该法律所需的信息，包括系统预期用途的说明以及任何已知局限性。
部署者义务
部署者，，即使用高风险人工智能系统的实体，，也必须实施风险管理框架。他们需要：
- 在部署高风险人工智能系统之前开展影响评估。
- 在人工智能系统用于重大决策时通知消费者。
- 为消费者提供对不利决定提出申诉并请求人工复核的机会。
- 至少保存三年人工智能系统使用记录和影响评估记录。
部署者还必须向消费者披露人工智能系统的性质及决策过程，包括所使用的逻辑以及存在歧视的可能性。
执法与处罚
科罗拉多州总检察长拥有执行该法案的专属权力。该法律不设立私人诉讼权，这意味着个人不能直接提起诉讼。相反，总检察长可以调查违规行为并提起民事诉讼，寻求禁令救济和民事处罚，每次违规最高罚款50,000美元，一系列违规行为的最高罚款为500,000美元。
影响评估
该法案的核心要求是开展影响评估。这些评估必须评价人工智能系统的目的、预期用途以及产生算法歧视的可能性。评估还必须考虑系统的设计、训练数据和验证方法，以及部署后的监控和缓解措施。
当人工智能系统或其使用发生重大变化时，影响评估必须进行更新。部署者必须至少保留评估三年，并在总检察长要求时提供这些评估。
豁免与安全港
该法案包含若干豁免条款。小企业，，即员工少于50人且每年使用人工智能系统对不超过25,000名消费者做出重大决策的企业，，可豁免某些要求，但仍须遵守基本的透明度义务。
此外，该法案为采取合理谨慎措施以遵守法律的开发者和部署者提供了安全港。如果尽管采取了此类谨慎措施仍发生违规行为，总检察长可以选择不进行执法，前提是该实体在收到通知后60天内纠正违规行为。
与其他法律的关系
科罗拉多州人工智能法案不优先于其他州或联邦法律。其设计目的是补充现有的反歧视法规，例如《民权法案》和《公平住房法》。该法律明确规定不设立私人诉讼权，但不阻止个人根据其他适用法律提出索赔。
该法案还包含一项条款，允许总检察长通过制定规则来实施该法律，不过截至2025年初，尚未有任何此类规则最终确定。
行业反应
包括技术行业协会在内的商业团体反应不一。一些人称赞该法律提供了明确性和合规框架，而另一些人则批评其过于繁重且与现有法规重复。消费者权益团体普遍支持该法案，认为这是保护弱势群体免受人工智能驱动的歧视的必要步骤。
包括OpenAI和Anthropic在内的多家主要人工智能开发公司已公开表示支持负责任的人工智能监管，不过他们也呼吁制定联邦标准，以避免各州法律各自为政。该法案对更广泛人工智能行业的影响仍有待观察，但它很可能会影响其他州的类似立法。
实施时间表
该法案于2024年5月签署，生效日期为2026年2月1日。这一较长的时间表旨在给开发者和部署者充足的时间来调整其实践。科罗拉多州总检察长办公室表示，将在生效日期之前发布指导意见，以帮助各实体理解其义务。
未来展望
科罗拉多州人工智能法案代表了人工智能治理的一个重要里程碑。随着大型语言模型和其他人工智能技术越来越深入地融入日常生活，对清晰法律框架的需求日益增长。该法案对算法歧视的关注为其他司法管辖区树立了先例，并可能成为联邦立法的范本。然而，其成功将取决于有效的执法以及企业在人工智能开发中拥抱透明度和公平性的意愿。