加利福尼亚州参议院第1047号法案，正式名称为《前沿人工智能模型安全与创新保障法案》，是一项旨在规范大规模人工智能系统开发与部署的拟议州法律。该法案由州参议员斯科特·维纳于2024年2月提出，试图对前沿AI模型（即使用大量计算能力训练的模型）的开发者施加安全要求，以防止网络攻击或生物武器制造等灾难性危害。该法案于2024年8月通过加利福尼亚州立法机构，但于2024年9月29日被州长加文·纽森否决，使加利福尼亚州成为美国首个尝试全面AI安全立法的州，尽管否决使监管格局悬而未决。
该法案的核心条款针对使用超过10^26次浮点运算（FLOPs）训练的AI模型开发者，这一门槛在当时仅涵盖领先实验室的最先进系统。法案要求此类开发者实施书面的安全与安保框架，进行部署前测试，并确保模型在紧急情况下能够完全关闭。法案还设立了一个新的州机构，即技术部下属的前沿模型部门，负责执行合规性并对违规行为处以罚款。值得注意的是，法案包含了对报告安全问题的员工的举报人保护条款，并要求开发者每年向州总检察长证明其合规性。
立法历程与关键修正
SB 1047在通过加利福尼亚州参议院和众议院期间经历了重大修订。该法案最初于2024年2月提出，4月进行了修订以缩小范围，重点关注培训成本超过1亿美元的模型。8月的后续修订澄清了法案不适用于开源模型，除非它们经过微调或修改以达到门槛，并豁免了仅用于研究或国家安全目的的模型。法案还包括“紧急关闭开关”要求，规定开发者必须实施完全停止模型运行的能力，并要求创建公开可用的“安全框架”。
该法案于2024年5月21日以32比1的投票通过参议院，并于2024年8月28日以45比11的投票通过众议院。最终版本于2024年8月30日获得参议院批准，并提交给州长纽森。在整个过程中，该法案吸引了支持者和反对者的激烈游说，科技公司和学术机构就其可能对创新产生的影响发表了意见。
支持与反对
SB 1047的支持者，包括约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素等著名AI研究人员，认为该法案是对先进AI可能带来的潜在生存风险的必要预防措施。他们主张，自愿的行业承诺是不够的，政府监管对于确保安全至关重要。该法案还得到了工会、消费者倡导团体和一些科技高管的支持，他们认为这是让AI开发者对危害负责的一种方式。
反对者，包括OpenAI、Anthropic和Google DeepMind等主要AI公司，以及科技行业团体和一些学者，认为该法案过于宽泛，会扼杀创新。他们声称FLOP门槛是任意的，法案将施加繁重的合规成本，尤其是对较小的初创企业。一些批评者还认为，法案对假设性灾难风险的关注分散了对偏见和错误信息等更直接危害的注意力。值得注意的是，Anthropic最初表示担忧，但后来提出了更为支持的态度，建议的修正案被部分采纳。
州长纽森的否决及其理由
2024年9月29日，州长加文·纽森否决了SB 1047，理由是其“过于宽泛”的范围和可能“扼杀”创新。在否决声明中，纽森承认AI安全的重要性，但认为法案对模型规模和计算门槛的关注并非最有效的方法。他指出，法案可能对开发者施加“不可行”的要求，且未充分解决AI风险的全部范围，如算法歧视和就业替代。纽森转而呼吁建立更平衡的监管框架，并提到正在进行的行政命令和与专家的合作，以制定基于证据的政策。
否决引发了不同的反应。支持者表示失望，参议员维纳誓言在未来的会期中继续努力。反对者称赞这一决定，科技行业团体声称否决保护了加利福尼亚州在AI领域的领导地位。否决还引发了关于州与联邦监管作用的辩论，因为美国国会尚未通过全面的AI立法。
影响与后续
否决后，AI监管问题在加利福尼亚州和全国范围内仍是突出话题。2024年10月，州长纽森签署了其他几项与AI相关的法案，包括针对深度伪造和AI在医疗保健中使用的措施，但他拒绝颁布更广泛的安全立法。否决还影响了其他州的讨论，一些立法者考虑类似法案，但根据加利福尼亚州的经验调整了方法。
围绕SB 1047的辩论凸显了监管快速发展的技术的挑战。法案支持者认为，等待联邦行动将使公众得不到保护，而反对者则认为，过早的监管可能阻碍有益的发展。该法案的遗产包括提高了对AI安全问题的认识，并促使公司采纳自愿安全承诺，例如2023年白宫AI安全峰会上所做的承诺。
AI监管的更广泛背景
SB 1047是全球AI监管运动的一部分。欧盟的《AI法案》于2024年定稿，采取了基于风险的方法，按风险级别对AI应用进行分类并施加相应义务。相比之下，SB 1047专门针对前沿模型，一些专家认为这种区分更具针对性，但也更武断。该法案的失败凸显了制定平衡创新与安全的立法的难度，这一挑战继续困扰着全球政策制定者。
技术与伦理考量
法案对FLOP门槛的依赖引发了关于如何衡量AI能力的技术问题。批评者指出，计算能力并非风险的完美代理，因为较小的模型有时可以通过微调获得危险能力。法案还涉及伦理问题，如开发者对模型下游使用的责任，以及透明度与国家安全之间的紧张关系。这些考量在关于AI治理的持续辩论中仍然核心。
未来前景
截至2025年初，加利福尼亚州尚未颁布类似法案，但参议员维纳表示将在下一会期重新提出立法，可能采用修订后的标准。与此同时，联邦政府已采取措施应对AI安全，包括拜登总统于2023年10月发布的行政命令以及美国AI安全研究所的成立。这些努力的结果将可能塑造美国AI监管的未来，而加利福尼亚州的经验将根据视角不同，成为警示故事或蓝图。