加州人工智能法律（California AI Laws）指加利福尼亚州一系列规范人工智能系统开发、部署和使用的州级法规，重点涵盖生成式人工智能、深度伪造和算法问责。这些法律主要于2018年至2024年间颁布，确立了透明度、披露及人工智能相关损害责任方面的要求，使加州成为美国人工智能政策领域的领先司法管辖区。相关立法涉及的问题包括选举干预、未经同意的私密影像，以及就业和高风险人工智能系统中的自动化决策。
加州首部重要人工智能法律是2018年的《加强在线透明度法案》（SB 1001），该法案要求机器人在出于商业或政治目的与用户互动时披露其人工属性。此后，2019年出台了一系列针对深度伪造的法律，包括AB 730（禁止在选举前60天内于竞选广告中使用欺骗性音频或视觉媒体）和AB 602（为非自愿深度伪造色情内容设立民事责任）。这些早期措施针对的是生成式人工智能最直接的危害，而此类技术已通过生成式人工智能模型等工具广泛普及。
立法演变与主要法规
加州的人工智能法律框架在2020年代初显著扩展。2020年，AB 1285将选举深度伪造禁令的范围扩大到所有政治传播内容，而不仅仅是广告。2022年《加州隐私权法案》（CPRA）修订了该州的消费者隐私法，纳入自动化决策相关条款，赋予居民选择退出人工智能驱动画像的权利。2023年，该州颁布了SB 1011，要求大语言模型开发者发布透明度报告，详细说明训练数据来源和安全测试情况。
最全面的立法是2024年的SB 1047《前沿AI模型安全创新法案》。该法对训练计算量超过10^26次浮点运算的大语言模型开发者施加了义务，包括部署前风险评估、强制性安全协议，以及向州政府报告严重事件的责任。该法还在加州科技部内设立了前沿AI部门以监督合规情况。尽管州长加文·纽森签署了该法案，但他同时否决了一项配套法案（AB 2930），后者将强制要求对人工智能生成内容进行水印标记，理由是技术可行性存在疑虑。
深度伪造监管与民事责任
加州在监管深度伪造方面尤为积极，此类合成媒体利用神经网络和深度学习技术生成。AB 602（2019年）为肖像出现在非自愿深度伪造色情内容中的个人创设了私人诉权，允许每次违规获得最高5万美元的赔偿。AB 2740（2023年）进一步加强了这一规定，将责任扩展到知情托管此类内容的分发者和平台。
在政治深度伪造方面，AB 730（2019年）及其扩展法案AB 1285（2020年）禁止在选举前60天内分发候选人的实质性欺骗性音频或视觉媒体，除非内容中包含明确的篡改披露声明。违规行为可导致禁令和民事处罚。这些法律曾以第一修正案为由受到挑战，但法院通常在狭义限定以防止欺诈的前提下予以支持。
透明度与披露要求
SB 1001（2018年）要求机器人，，即与用户互动的自动化在线账户，，在用于影响投票或商业交易时披露其人工身份。该法将机器人定义为无需人工干预即可运行的自动化系统，并豁免了某些公益公告。这一条款被其他州视为范本，但执法力度有限。
SB 1011（2023年）更进一步，要求变换器等大语言模型的开发者向总检察长提交年度透明度报告。这些报告必须包含训练数据来源、模型评估结果以及任何已知偏见或故障模式的信息。该法还要求开发者维护严重安全事件的公开事件日志。
就业与算法问责
加州还涉及了工作场所中的人工智能问题。CPRA（2022年）赋予员工获取自动化决策系统如何评估他们的信息以及选择退出某些画像的权利。2023年，AB 1076修订了该州的《公平就业与住房法案》，明确禁止使用基于受保护特征（如种族或性别）进行歧视的人工智能系统。雇主必须对用于招聘、晋升或解雇决策的任何人工智能工具进行偏见审计。
这些条款与确保算法公平性的更广泛努力相一致，呼应了伯克利人工智能研究和斯坦福人工智能实验室等机构关于机器学习偏见的研究。然而，执法机制仍不完善，批评者认为自我审计并不充分。
执法与处罚
加州人工智能法律的执法主要由总检察长和地方地区检察官负责。民事处罚因法规而异：SB 1001规定每次违规最高罚款2，500美元，而AB 602允许每次事件获得5万美元的法定赔偿。SB 1047设立了分级处罚结构，未报告严重事件的罚款最高达1，000万美元，不符合风险评估要求的罚款最高达100万美元。
该州还在多项法律中授权私人诉权，允许个人提起诉讼索赔。例如，AB 2740允许非自愿深度伪造色情内容的受害者寻求禁令救济和实际损害赔偿。法院已开始解释这些法规，早期裁决在涉及未经同意的私密影像案件中倾向于支持原告。
影响与争议
加州人工智能法律对人工智能行业产生了重大影响，尤其是因为许多领先的人工智能公司，包括OpenAI、Anthropic和Google DeepMind，都将总部或主要业务设在加州。这些法律影响了国家政策讨论，多个其他州也采用了类似措施。然而，它们也招致了行业团体的批评，认为过度监管可能扼杀创新，并将人工智能开发推向其他司法管辖区。
支持者认为，这些法律为公共安全和公民权利提供了必要保障，尤其是在生成式人工智能快速发展的背景下。SB 1047出台后争论更加激烈，一些研究人员和公司警告称，基于计算量的阈值可能具有任意性，合规成本可能对较小的初创企业造成不成比例的影响。截至2025年，该法律的实施仍在进行中，其全面影响尚待观察。
未来方向
加州继续完善其人工智能法律框架。2025年，州立法机构正在审议关于人工智能水印、娱乐行业深度伪造披露以及设立州人工智能安全委员会的新法案。该州还参与了多州合作，以协调人工智能法规。鉴于加州的经济和技术影响力，其人工智能法律很可能在未来多年塑造美国更广泛的监管格局。
随着人工智能系统日益融入日常生活，加州的做法，，在创新与问责之间寻求平衡，，将成为民主社会人工智能治理的关键试验案例。