2024年，加州颁布了一系列人工智能法律，其范围远超广受关注的参议院1047号法案。尽管SB 1047，即《前沿人工智能模型安全创新法案》，占据了全国头条新闻，并最终于2024年9月29日被州长加文·纽森否决，但州立法机构通过并由州长签署了众多其他与AI相关的措施。这些法律涉及广泛的问题，包括AI生成内容的透明度、深度伪造在政治竞选中的使用，以及自动化决策系统的问责制。总体而言，这些法律使加州成为AI监管的先行者，即使该州的做法仍比SB 1047提出的全面框架更为零散。
这一揽子立法反映了加州立法者日益迫切的心情，以应对Generative AI工具的迅速普及。这些法律的制定是在行业团体、学术机构和民间社会组织激烈游说的背景下进行的。民主党州长纽森在2024年9月的一系列公告中签署了这些法案，强调需要在促进创新的同时保护消费者和选民。由此产生的法规为在该州开发并部署Artificial intelligence系统的公司创设了新的义务；加州是许多全球领先AI公司的所在地，包括OpenAI、Anthropic和Google DeepMind。
AI生成内容的透明度
最重要的立法之一是由众议院提出的2013号法案，该法案强制要求训练数据的透明度。该法律要求生成式AI系统的开发者公布用于训练其模型的数据集的相关文档。此文档必须包含数据来源、数据是否包含受版权保护的材料，以及数据如何被策划和处理等信息。该法律适用于向加州居民提供AI服务的开发者，无论公司总部位于何处。该法律于2025年1月1日生效，为公司留出了较短的合规窗口。
AB 2013被视为对作家和艺术家针对OpenAI和Anthropic等公司提起的诉讼的直接回应，这些诉讼指控其受版权保护的作品在未经许可的情况下被用于训练Large language model。该法律并未禁止使用受版权保护的材料，但强制要求公开其使用情况。法律专家指出，文档要求可能对较小的初创公司造成负担，而资源更丰富的大型公司则更有能力合规。该法律还要求开发者描述模型的用途和预期用例，以及任何已知的限制或风险。
政治竞选中的深度伪造
加州还积极采取行动，监管深度伪造在选举中的使用。2024年9月签署成为法律的由众议院提出的2655号法案，要求大型在线平台标记或删除与选举相关的具有欺骗性的AI生成内容。该法律适用于以实质性欺骗方式描绘候选人或民选官员的内容，例如显示候选人说了其从未说过的话的伪造视频。平台必须在收到此类内容通知后的72小时内采取行动。该法律建立在加州较早处理选举中深度伪造问题的法规基础之上，但将要求扩展到了更广泛的平台和内容。
AB 2655还有由众议院提出的2839号法案作为补充，后者允许法院对具有欺骗性的AI生成的选举内容的传播发布禁令。该法律还允许候选人寻求快速法律救济。这些法律共同为打击2024年选举周期及以后的AI驱动的虚假信息建立了强有力的法律框架。支持者认为这些法律对于保护民主进程是必要的，而批评者则担心可能违反第一修正案，并且难以定义何为“实质性欺骗”的深度伪造。
算法问责与自动化决策
另一项值得注意的法律，即参议院942号法案，涉及AI在自动化决策系统中的使用。该法律要求使用AI做出影响就业、住房、信贷或医疗等后果性决策的公司，向消费者提供有关该系统如何运作的有意义的信息。这包括决策所涉及的逻辑、AI角色的重要性，以及消费者选择退出或请求人工复核的权利。该法律于2025年1月1日生效，部分仿效了欧盟的《通用数据保护条例》。
SB 942被隐私倡导者称赞为迈向算法透明度的一步。然而，它也被批评为对何为“后果性决策”的定义含糊不清，并且未要求公司对其系统进行独立审计。该法律的执行机制主要留给加州隐私保护局，该机构负责制定实施该法规的细则。一些行业团体警告称，该法律可能导致合规负担的碎片化，因为公司需要调整其系统以满足加州的要求。
对表演者和创作者的保护
加州还颁布了旨在保护演员、音乐家和其他表演者免受未经授权的AI复制品侵害的法律。由众议院提出的2602号法案要求表演者与制片公司之间的合同包含关于数字复制品使用的明确条款。该法律于2025年1月1日生效，禁止未经明确同意使用表演者的数字复制品，除非该使用受集体谈判协议涵盖。该法律得到美国演员工会及广播电视艺人联合会的支持，该工会最近结束的罢工中包含了对AI的担忧。
一项相关的法律，即由众议院提出的1836号法案，将类似保护扩展到了已故表演者。它要求在商业制作中使用已故人士的数字复制品之前，需获得其遗产或继承人的同意。该法律被视为对日益增长的利用AI重现历史人物和已故名人形象的回应。这两项法律因其针对性而引人注目，解决了AI在娱乐业（加州的主要经济驱动力）中带来的独特挑战。
SB 1047的否决
尽管通过了这些法律，但加州最雄心勃勃的AI立法未能成为法律。由参议员斯科特·维纳提出的SB 1047，将要求大型AI模型的开发者实施安全协议，包括紧急关闭开关和第三方审计。该法案还将创建一个新的州机构来监管前沿AI模型。州长纽森于2024年9月29日否决了该法案，认为其过于宽泛，可能扼杀创新。在否决声明中，纽森表示该法案侧重于最大的模型，并可能施加当前风险无法证明其合理性的“严格标准”。
此次否决对包括OpenAI和Anthropic在内的许多科技行业参与者来说是一场胜利，这些公司曾游说反对该法案。然而，这让主张加州需要对先进AI的潜在危害提供强有力保障的倡导者感到失望。纽森在声明中表示，他已指示州机构与专家合作制定替代方法，包括基于风险的AI监管框架。此次否决凸显了该州在AI监管领域发挥领导作用的愿望与其维持全球技术创新中心地位之间的紧张关系。
反应与行业回应
2024年的这些法律在AI行业引起了不同的反应。像OpenAI和Anthropic这样的公司公开支持部分透明度和深度伪造措施，同时对合规的累积负担表示担忧。较小的初创公司，尤其是在Generative AI领域的初创公司，担心AB 2013的文档要求难以满足。一些公司开始聘请合规官和法律团队来应对新法规。像“进步商会”和“TechNet”贸易协会等行业团体认为，这些法律可能造成零散的监管环境，因为其他州和联邦政府也在考虑AI立法。
包括美国公民自由联盟和电子前沿基金会在内的民间社会组织，普遍支持透明度和问责措施。他们认为这些法律为消费者和选民提供了理解和质疑AI驱动决策的重要工具。然而，一些隐私倡导者指出，这些法律做得还不够，特别是在要求独立审计或完全禁止某些高风险AI使用方面。加州的AI监管辩论可能会继续，因为州立法机构已经表示将在2025年考虑更多的AI法案。
实施与执行
2024年法律的实施主要落在州机构身上，包括加州隐私保护局和总检察长办公室。隐私保护局负责为SB 942制定细则，该细则将明确法律的范围和执行程序。该机构已举行公开研讨会，以收集包括行业代表、学者和消费者倡导者在内的利益相关者的意见。总检察长办公室负责执行深度伪造法律，并可对违规者提起民事诉讼。
遵守新法律预计将成为在加州运营的公司的一项重大任务。该州庞大的科技行业，包括Amazon Web Services、Microsoft Azure和Google Cloud等主要AI开发者和云服务提供商，将受到最大影响。这些公司中的许多已经开始发布模型文档并实施内容标记系统，以迎接这些法律的实施。这些法律的长期影响将取决于法院和监管机构如何解释它们，以及联邦政府是否通过可能优先于州法律的自己的AI立法。
更广泛的背景与未来展望
加州2024年的AI法律是全球AI监管运动的更广泛组成部分。欧盟的《人工智能法案》于2024年正式通过，根据风险水平对AI系统施加了全面要求。包括中国和英国在内的其他国家也引入了AI治理框架。在美国，联邦政府采取了更为零碎的做法，通过行政命令和机构指导而非全面的立法。加州的法律虽然比欧盟的《人工智能法案》范围更窄，但在联邦行动缺失的情况下代表了重要的一步。
加州AI监管的未来仍不确定。SB 1047的否决表明，即使在拥有民主党绝对多数的州，通过全面的AI立法也面临政治挑战。然而，2024年一揽子立法的通过表明，在解决深度伪造和算法偏见等特定危害方面存在两党支持。随着AI技术的不断发展，加州立法者可能会重新审视该问题，可能引入新法案以应对新出现的挑战。就目前而言，2024年的法律为加州的AI治理奠定了基础，在创新与消费者保护之间取得了平衡。