美国深度伪造法律由一系列联邦和州法规构成，旨在规范由人工智能系统生成的合成媒体的创建、分发和使用。这些法律针对与深度伪造相关的多种危害，包括选举干预、非自愿亲密影像、欺诈和诽谤。自2010年代中期以来，受生成式AI的进步和易于获取的深度伪造创建工具的普及推动，法律环境迅速演变。截至2025年，美国大多数州已颁布某种形式的深度伪造相关立法，尽管范围和执行机制差异显著。
深度伪造是“深度学习”和“伪造”的合成词，指使用机器学习技术编辑或生成的图像、视频或音频。该技术利用神经网络，包括变分自编码器和生成对抗网络（GAN），来创建高度逼真的合成媒体。虽然创建虚假内容的行为早于数字技术，但深度伪造独特地采用基于AI的工具来生成能够以前所未有的保真度描绘真实或虚构人物的媒体。这一能力引发了关于隐私、知识产权和民主诚信的重大法律与政策问题。
联邦立法努力
在联邦层面，国会已审议多项涉及深度伪造的法案，但截至2025年尚未颁布全面立法。《深度伪造问责法》于2019年首次提出，拟要求对AI生成内容添加数字水印，并对未披露合成媒体的行为施加刑事处罚。《识别生成对抗网络输出法》于2020年签署成为法律，指示国家科学基金会和国家标准与技术研究院支持深度伪造检测和内容真实性研究。
《DEEPFAKES问责法》在多个会期被重新提出，拟要求深度伪造创作者嵌入数字水印并披露其内容的合成性质。该法案还提议为未经同意被描绘在深度伪造中的个人设立私人诉权。然而，这些联邦提案在调和言论自由保护与监管目标方面面临挑战，且均未推进至两院最终表决。
2023年和2024年，联邦关注点转向与选举相关的深度伪造。拟议的《保护选举免受欺骗性AI影响法》将禁止在选举前120天内分发描绘联邦候选人的实质性欺骗性AI生成音频或视觉媒体。该法案反映了对深度伪造可能干扰选举进程的日益增长的担忧，学者和政策制定者与对虚假信息和仇恨言论的关切一并强调了这一风险。
州级监管：概述
州立法机构在应对深度伪造方面比国会更为积极。截至2025年，超过40个州已颁布与合成媒体相关的法律，其中大多数侧重于特定危害而非全面监管。第一波州法律始于约2019年，针对非自愿亲密影像（NCII），通常称为报复性色情，在深度伪造技术普及之前，许多州已将此类行为定为犯罪。
加利福尼亚州成为深度伪造监管的先驱。2019年，该州颁布了第730号议会法案，禁止在选举前60天内分发对竞选公职候选人的实质性欺骗性音频或视觉媒体。同年，加利福尼亚州通过了第602号议会法案，将未经同意创建和分发深度伪造色情内容定为犯罪。这些法律为其他州确立了模板，将选举诚信条款与针对亲密影像滥用的保护相结合。
非自愿亲密影像法律
最广泛采用的深度伪造立法类别涉及非自愿亲密影像。截至2025年，几乎所有州的法律都明确将数字修改或AI生成的亲密影像纳入其NCII定义。这些法规通常对创建或分发未经同意的描绘真实人物的深度伪造色情内容施加刑事处罚，处罚范围从轻罪到重罪不等，具体取决于司法管辖区和情节。
德克萨斯州于2019年颁布了较为严格的法律之一，将以骚扰或伤害意图创建或分发深度伪造亲密影像定为重罪。该法律还提供民事救济，允许受害者寻求损害赔偿和禁令救济。纽约州于2022年跟进，将传播合成亲密影像定为犯罪，同时确立了民事诉讼因由。这些法律反映了对深度伪造NCII可能对受害者造成严重心理、声誉和经济伤害的认识。
一些州已将NCII法律扩展至涵盖创建深度伪造亲密影像的威胁。例如，伊利诺伊州修订了其现有的报复性色情法规以纳入威胁，认识到仅仅威胁创建深度伪造即可被用作胁迫和控制工具。这一扩展解决了深度伪造的独特性质，即可以在没有任何受害者原始亲密影像的情况下创建。
选举和政治深度伪造法律
与选举相关的深度伪造法律构成州级监管的第二大类别。这些法律通常禁止在选举前特定时间段（通常为60或90天）内分发描绘政治候选人的欺骗性合成媒体。大多数此类法律要求内容具有实质性欺骗性，即会使理性人相信候选人说了或做了其实际未说或未做的事情。
加利福尼亚州的AB 730于2019年颁布，是此类法律中的首部。它允许被描绘在欺骗性深度伪造中的候选人寻求禁令救济并施加民事处罚。明尼苏达州于2023年通过了类似法律，密歇根州、华盛顿州和威斯康星州也相继推出各自版本。截至2024年，至少20个州已颁布与选举相关的深度伪造法律，其中许多在2024年总统选举前生效。
这些法律面临第一修正案挑战。2024年，佛罗里达州一家联邦法院驳回了该州深度伪造选举法律的部分内容，认定其过于宽泛并压制了受保护的言论。该裁决凸显了防止选举欺骗与保护政治言论之间的紧张关系，这种紧张关系继续影响其他州的立法起草。一些州通过缩小欺骗性内容的定义或增加讽刺、戏仿和新闻报道的豁免来回应。
民事救济和形象权
除刑事法规外，许多州通过形象权法律扩展了对深度伪造受害者的民事救济。这些法律保护个人对其姓名、形象和肖像商业使用的控制权。田纳西州于2024年成为首个明确将AI生成的表演者声音和图像复制品纳入其形象权法规的州，该法规被称为《确保形象声音和图像安全法》（ELVIS法案）。该法律由音乐行业对未经授权模仿艺术家声音的AI生成歌曲的担忧所推动。
加利福尼亚州和纽约州也修订了其形象权法律以应对数字复制品。加利福尼亚州2020年对其《民法典》的修订明确责任延伸至通过AI创建的“数字复制品”。纽约州2020年的法律于2021年生效，创建了包括已故表演者数字复制品在内的死后形象权。这些法律为损害赔偿提供了民事诉讼因由，允许受害者就深度伪造中未经授权商业使用其肖像提起诉讼。
欺诈和金融犯罪条款
一些州已在欺诈和金融犯罪背景下处理深度伪造问题。这些法律认识到深度伪造可用于以经济利益为目的冒充个人，例如通过语音克隆授权欺诈性交易或通过视频深度伪造欺骗员工转移资金。截至2025年，至少有十二个州颁布了专门针对AI赋能欺诈的法律，要么通过扩展现有欺诈法规，要么创建新罪行。
亚利桑那州和路易斯安那州已颁布法律，对使用深度伪造技术实施的犯罪加重处罚。这些法规将使用合成媒体视为加重情节，增加了对身份盗窃、电信欺诈或敲诈勒索等潜在罪行的指控严重性。这种方法允许检察官应用现有刑事框架，同时认识到AI生成欺骗构成的独特威胁。
检测和披露要求
越来越多的州已颁布要求披露AI生成内容的法律。这些法律通常要求对深度伪造进行标记或添加水印，以告知观众其合成性质。加利福尼亚州2024年的法律于2025年生效，要求大型在线平台标记可能欺骗观众关于选举或公共健康的AI生成内容。该法律还要求平台为用户提供报告未标记深度伪造的工具。
犹他州和科罗拉多州已颁布类似的披露法律，科罗拉多州2024年的法规要求政治广告披露生成式AI的使用。这些披露要求旨在通过赋予观众对媒体真实性做出知情判断的能力来解决深度伪造的信息危害。然而，执行机制各不相同，一些法律依赖平台自我监管而非政府监督。
执行挑战和批评
深度伪造法律的执行面临重大挑战。互联网的去中心化性质使得识别和起诉可能位于危害发生地管辖范围之外的创作者变得困难。此外，大语言模型和其他AI技术的快速演进意味着检测工具往往滞后于生成能力。图像取证研究人员已开发出检测操纵图像的技术，但这些方法并非总能可靠应对最复杂的深度伪造。
深度伪造法律的批评者提出关于过度宽泛和对合法言论产生寒蝉效应的担忧。艺术家、记者和讽刺作家认为，一些法规可能被用于压制受保护的表达，例如政治戏仿或使用合成媒体的纪录片。美国公民自由联盟和其他倡导组织已在多起案件中提交法庭之友意见书，基于第一修正案挑战深度伪造法律，认为政府防止欺骗的利益不能证明对内容的广泛限制是合理的。
另一项批评涉及州法律的不一致性，这为平台和创作者创造了复杂的合规环境。在一个州合法的深度伪造在另一个州可能是犯罪，而缺乏联邦统一性使跨州执行复杂化。一些法律学者呼吁建立联邦框架，确立最低标准，同时允许各州制定更严格的保护措施。
未来方向
截至2025年，美国深度伪造的法律环境仍处于变动之中。联邦立法已提出但未颁布，州法律继续响应技术发展和法院挑战而演变。最高法院尚未对深度伪造法律的合宪性作出裁决，留下下级法院在监管与言论自由之间权衡。
新兴问题包括深度伪造在娱乐行业的使用，OpenAI和其他公司已开发出能够生成逼真视频和音频的工具。深度伪造可能扰乱媒体行业的潜力，已促使呼吁行业自我监管和内容来源技术标准。内容来源与真实性联盟是一个行业组织，已开发出加密签名元数据的技术规范，可验证数字内容的来源和历史。
多个州的立法者已为2025-2026会期提出法案，以扩展对深度伪造中被描绘个人的保护，包括快速下架程序和恶意使用的加重损害赔偿条款。一些提案将要求平台实施深度伪造检测工具并在指定时间范围内移除被标记内容。这些提案反映了持续努力，以使法律框架适应AI生成合成媒体带来的挑战。