《深度伪造责任法案》是一项拟议中的美国联邦法案，要求对包括深度伪造在内的AI生成内容进行标注，以降低欺骗和虚假信息带来的风险。该法案于2019年首次提出，旨在为合成媒体的创作者和分发者确立透明度义务，同时为因未标注深度伪造而受害的个人提供法律救济途径。该法案反映了对Generative AI技术被滥用的日益担忧，并已成为后续AI监管政策辩论中的参考点。
深度伪造是利用Artificial intelligence技术（尤其是Deep learning和Neural network架构）制作的逼真但虚构的媒体内容。该术语结合了“深度学习”和“伪造”，该技术于2017年因一名匿名Reddit用户发布篡改的名人视频而受到广泛关注。到2019年，深度伪造的泛滥已引发对其可能破坏选举、诽谤个人以及侵蚀公众对媒体信任的担忧。《深度伪造责任法案》于2019年6月12日由纽约州民主党众议员伊薇特·克拉克提出，她此前曾赞助网络安全立法。
立法条款
该法案提议修订美国1934年《通信法》，新增一节关于“合成媒体创建中的透明度”的内容。根据该法案，任何意图分发深度伪造的创作者必须包含数字水印或文本标签，标明内容为AI生成。标签必须清晰可见且不易移除。法案还要求托管用户生成内容的平台提供机制，使用户能够举报未标注的深度伪造，并在收到通知后删除此类内容。
此外，该法案确立了私人诉讼权，允许未经同意被深度伪造描绘的个人起诉创作者要求损害赔偿，包括每次违规最高15万美元的法定赔偿金。法案还指示联邦通信委员会（FCC）在法案颁布后180天内通过实施标签要求的法规。法案明确排除明显属于讽刺、戏仿或虚构的内容，前提是这些内容未被呈现为真实新闻或事实报道。
立法历史
《深度伪造责任法案》在第116届国会中作为H.R. 3230提出，被提交至众议院能源与商业委员会，但该届会议未采取进一步行动。该法案于2020年3月12日以H.R. 6236重新提出，条款类似，再次在委员会中搁置。在第117届国会中，克拉克众议员于2021年6月24日提出了修订版H.R. 4230，其中增加了对政治广告的额外要求。这些版本均未进入全院表决阶段。
尽管未获通过，该法案已在多项州级倡议和学术论文中被引用为深度伪造监管的范本。例如，加利福尼亚州于2019年通过了一项法律（AB 730），禁止在选举前60天内分发涉及政治候选人的欺骗性音频或视觉媒体，而《深度伪造责任法案》常被视为联邦层面的对应措施。该法案还影响了欧盟的讨论，欧盟于2021年提出了《人工智能法案》，其中包括对深度伪造的透明度义务。
主要支持者与反对者
伊薇特·克拉克众议员是主要提案人，她认为该法案对于保护消费者和维护民主诚信是必要的。在一份新闻稿中，她表示“深度伪造对我们的国家安全、民主和社会构成重大威胁”。该法案获得了电子前沿基金会等公民自由组织的支持，该组织赞扬了其标签和删除条款，但也对潜在的过度干预表示担忧。
反对者包括言论自由倡导者和一些科技行业团体，他们认为强制标签可能带来负担，且法案对深度伪造的定义过于宽泛。美国公民自由联盟（ACLU）警告称，私人诉讼权可能被用来压制合法言论，如批评性评论或艺术表达。包括OpenAI和Google DeepMind在内的一些科技公司公开支持自愿标签，但未认可该具体立法。
技术背景
《深度伪造责任法案》出现在Generative AI模型快速发展的时期。2018年，NVIDIA研究人员推出了StyleGAN架构，能够生成高度逼真的人脸。2019年，OpenAI发布了GPT-2，这是一种Large language model，能够生成连贯文本，引发了对AI生成虚假信息的担忧。该法案的标签要求被视为对这些发展的回应，尽管它主要关注视觉和音频深度伪造，而非文本。
深度伪造的创建通常涉及生成对抗网络（GAN），其中两个神经网络，，生成器和判别器，，被共同训练。生成器产生合成媒体，而判别器试图将其与真实媒体区分开来。随着时间的推移，生成器不断改进，产生越来越令人信服的输出。法案要求可见标签旨在使观众更容易识别此类内容，即使底层技术不断演变。
影响与遗产
尽管《深度伪造责任法案》从未成为法律，但它对政策格局产生了持久影响。它是首批专门针对深度伪造的联邦法案之一，其条款在后来的提案中得到了呼应，例如2020年的两党《深度伪造特别工作组法案》和2022年的《算法问责法案》。该法案还促进了关于AI伦理和监管的更广泛讨论，影响了深度伪造检测和水印技术的学术研究。
在缺乏联邦立法的情况下，多个州已颁布了自己的深度伪造法律。截至2024年，至少有15个州通过了涉及深度伪造的法律，涵盖从恶意使用的刑事处罚到政治广告标签要求等内容。《深度伪造责任法案》在这些州级努力中常被引用为模板。此外，主要科技平台已实施自愿政策来标签AI生成内容，例如meta的“使用AI制作”标签和Google (AI)的内容凭证。
当前状态与未来前景
截至2025年，《深度伪造责任法案》尚未在当前国会中重新提出。然而，该问题仍然突出，尤其是随着GPT-4等Large language model的兴起以及合成媒体生成日益简便。2024年，联邦选举委员会（FEC）以缺乏权限为由拒绝监管政治广告中的AI生成深度伪造，这重新引发了联邦立法的呼声。克拉克众议员表示可能提出新版本的法案，但尚未正式宣布。
该法案的未来可能取决于政治气候以及关于AI监管的持续辩论结果。一些立法者提出了更广泛的AI立法，例如《AI基础模型透明度法案》，该法案将要求在所有领域披露AI生成内容。《深度伪造责任法案》仍是一个基础性参考点，其原则很可能为未来任何联邦深度伪造法律提供参考。
批评与局限
批评者指出了《深度伪造责任法案》的若干局限性。首先，法案对深度伪造的定义限于“看似真实且描绘某人说了或做了其未说或未做之事的音频或视觉媒体”。这排除了基于文本的AI生成内容，后者同样可用于传播虚假信息。其次，标签要求可能被技术熟练的用户规避，他们可以移除水印或使用AI生成难以检测的内容。第三，法案未解决深度伪造分发的国际性问题，因为许多深度伪造源自美国境外。
此外，一些法律学者认为，私人诉讼权可能导致滥诉，且15万美元的法定赔偿金过高。其他人指出，法案不要求平台主动检测深度伪造，仅要求响应举报，这可能不足以应对每天上传的海量内容。这些批评为后续立法努力提供了参考，这些努力试图解决其中一些空白。
结论
《深度伪造责任法案》代表了在联邦层面监管AI生成内容的早期尝试。尽管未获通过，它塑造了深度伪造监管的讨论，并影响了州级和国际努力。随着AI技术持续进步，合成媒体透明度和问责制的需求仍然紧迫，该法案的原则很可能在未来的立法提案中重新出现。