加利福尼亚州参议院第1047号法案，全称为《前沿人工智能模型安全创新法案》，是一项旨在规范大规模人工智能系统开发与部署的拟议州法律。该法案由州参议员斯科特·维纳于2024年2月提出，试图对超过特定计算阈值的人工智能模型开发者施加安全要求。在2024年8月通过加利福尼亚州立法机构后，该法案于2024年9月29日被州长加文·纽森否决，标志着美国人工智能监管持续辩论中的一个重要时刻。
此次否决是激烈游说和公众辩论的 culmination，引发了主要科技公司、人工智能研究者和倡导团体的回应。支持者认为，该法案对于防止先进人工智能可能造成的灾难性危害是必要的，而包括科技行业许多人在内的反对者则主张，该法案将扼杀创新并施加不切实际的义务。否决后的余波引发了关于州和联邦层面替代监管方法的重新讨论。
立法背景
参议员斯科特·维纳于2024年2月提出SB 1047，旨在为“前沿人工智能模型”（即训练计算能力超过10^26次浮点运算的模型）建立监管框架。该法案要求开发者实施安全协议，包括能够迅速关闭模型的能力，并向新设立的州机构报告严重事件。法案还规定开发者必须进行部署前测试，并确保其模型不易被修改以造成大规模伤亡或促成网络攻击。
该法案在立法过程中经历了多次修订。值得注意的是，2024年8月的一项修订缩小了范围，删除了设立新州机构的条款，转而将监督职责分配给技术部。另一项修订豁免了主要为学术或研究目的开发的模型，前提是这些模型不用于商业部署。
立法通过
SB 1047于2024年8月28日以41票对16票通过加利福尼亚州众议院，并于2024年8月30日以30票对8票通过州参议院。该法案获得了跨党派支持，一些共和党人与民主党人一同投了赞成票。此次通过被视为一个里程碑式时刻，因为加利福尼亚州是许多世界领先人工智能公司的所在地，包括OpenAI、Anthropic和Google DeepMind。
州长否决
2024年9月29日，州长加文·纽森否决了SB 1047，并发表声明表示支持人工智能创新，但批评了该法案的做法。纽森认为，该法案对模型规模和计算能力的关注过于狭窄，可能造成虚假的安全感，同时可能阻碍有益人工智能应用的开发。他强调需要一种更灵活、基于证据的监管框架，以适应快速发展的技术。
此次否决并非完全出乎意料，因为纽森此前已对过度监管表示担忧。在他的否决声明中，他指出该法案未考虑人工智能的多样化应用，并可能对小规模开发者施加繁重的要求。他还提到正在进行的联邦努力以及加利福尼亚州自己于2023年9月签署的关于人工智能的行政命令，认为这些是处理这些问题的更合适途径。
对否决的反应
对否决的反应存在严重分歧。该法案的支持者，包括参议员维纳和各种人工智能安全倡导团体，表示失望。维纳称此次否决是对公共安全的挫折，并誓言继续推动监管。一些人工智能研究者，如约书亚·本吉奥（尽管没有直接关联，但他是一位知名人物），曾公开支持该法案，认为预防措施至关重要。
反对者，包括科技行业的许多人，则对否决表示赞赏。OpenAI和Anthropic等公司曾游说反对该法案，认为它将阻碍创新，且阈值是武断的。风险投资公司和初创企业倡导者也欢迎这一决定，声称该法案将迫使人工智能公司离开加利福尼亚州。
余波与监管格局
此次否决并未结束关于人工智能监管的辩论。参议员维纳表示计划在下一届会议上提出修订后的立法，纳入利益相关者的反馈。与此同时，州长纽森召集了一个专家小组，研究人工智能风险并为未来政策提出建议。该州还继续实施其行政命令，重点关注负责任的人工智能采购和风险评估。
在联邦层面，此次否决加剧了对国家人工智能监管框架的呼声。拜登政府于2023年10月发布了一项关于人工智能的行政命令，但全面的立法在国会仍悬而未决。联邦行动的缺失导致了各州举措的碎片化，加利福尼亚州的做法正受到密切关注，被视为潜在的模式。
行业与学术视角
此次否决引发了人工智能社区内部关于如何在不妨碍进步的情况下确保安全的最佳方式的讨论。一些研究者认为，自我监管和自愿承诺（例如领先实验室暂停开发最强大模型的承诺）是不够的。另一些人则认为，监管应侧重于特定的高风险应用，而非模型本身。
Anthropic和OpenAI都建立了内部安全团队，并呼吁政府监督，但它们反对SB 1047的具体条款。Google DeepMind也积极参与人工智能安全研究，但未对该法案公开表态。斯坦福人工智能实验室和伯克利人工智能研究等学术机构通过研究和政策建议为辩论做出了贡献。
未来前景
截至2025年初，加利福尼亚州尚未通过新的州级人工智能法案，但讨论仍在继续。围绕SB 1047的辩论凸显了监管一项快速演变且应用广泛的技术所面临的挑战。未来立法努力的结果将取决于如何在创新与公共安全之间取得平衡，以及能否制定既有效又灵活的规则。
在缺乏约束性监管的情况下，许多人工智能开发者采用了自愿安全框架，例如Anthropic提出的“前沿安全框架”。这些努力虽然不具有法律强制力，但代表了向负责任发展迈出的一步。因此，SB 1047的否决已成为技术、政策和公众舆论之间复杂互动的案例研究。