2019年的深度伪造丑闻指的是2019年5月，时任美国众议院议长南希·佩洛西的一段被篡改视频的病毒式传播。该视频被放慢至原速的约75%，并改变了音频音调，使佩洛西看起来言语含糊、动作异常，从而造成她醉酒的虚假印象。尽管这段视频在严格技术意义上并非深度伪造，，它没有使用生成式人工智能或神经网络，，但它成为公众认识合成媒体以及人工智能操纵传播虚假信息可能性的一个标志性时刻。这一事件引发了广泛的媒体报道、平台政策辩论，以及关于监管被操纵媒体的立法讨论。
该视频于2019年5月23日首次出现在Facebook上，并迅速传播至Twitter和YouTube等其他平台。几天之内，其观看次数已达数百万次。Facebook最初拒绝删除该视频，理由是反对审查的政策，但后来添加了事实核查标签并减少了其分发。Twitter和YouTube也因其对内容的处理方式而受到批评。这一事件凸显了社交媒体平台在检测和应对被操纵媒体方面面临的挑战，并推动了利用机器学习和计算机视觉技术开发自动检测工具的努力。
技术背景
佩洛西的视频并非使用深度学习方法制作，但在公众讨论中常被与深度伪造混为一谈。深度伪造是“深度学习”和“伪造”的合成词，指使用人工智能工具编辑或生成的图像、视频或音频。该技术依赖于深度学习技术，特别是生成对抗网络（GAN）和变分自编码器，以创建逼真但虚构的内容。相比之下，佩洛西的视频使用简单的视频编辑软件来放慢镜头，这种技术不需要人工智能。然而，这一事件表明，即使是低技术含量的操纵也能实现病毒式传播并造成严重的声誉损害。
2010年代中期GAN的发展已使复杂的深度伪造成为可能，但佩洛西的视频表明，即使是粗糙的操纵也能有效传播虚假信息。这一认识促使研究人员和政策制定者关注更广泛的合成媒体类别，其中包括人工智能生成的内容和传统编辑的内容。这一事件还加速了对检测方法的研究，例如分析面部运动、音频不一致性和元数据。
平台回应
Facebook最初决定保留该视频，同时添加事实核查标签，这招致了政治家、记者和倡导团体的批评。该公司后来更新了政策，在特定情况下删除误导性的被操纵媒体，但佩洛西事件暴露了现有审核系统的局限性。Twitter也因允许该视频保留而受到批评，尽管它最终添加了警告标签。YouTube（由Google拥有）最初因版权主张删除了该视频，但后来重新上传并附上事实核查说明。
这一事件导致了对平台关于被操纵媒体政策的更严格审查。在接下来的几个月里，Facebook宣布禁止可能误导观众的深度伪造，Twitter也推出了类似政策。这些措施是更广泛的行业应对人工智能生成的虚假信息威胁的一部分，其中包括微软等公司和学术机构开发检测工具。
政治与法律影响
佩洛西视频成为关于选举安全和民主进程完整性辩论的焦点。包括时任参议员卡玛拉·哈里斯和众议院议长南希·佩洛西本人在内的立法者呼吁社交媒体公司对被操纵媒体采取更强有力的行动。这一事件还推动了立法提案，例如2019年6月在美国众议院提出的《深度伪造问责法案》，该法案要求深度伪造的创作者为其内容添加标签。
在国际上，这一事件促进了关于合成媒体监管的更广泛讨论。在中国，深度伪造被称为“换脸”，政府于2019年出台法规，要求深度伪造内容必须明确标注，且创作者需获得所涉个人的同意。欧盟也开始探索应对虚假信息的措施，包括《虚假信息行为准则》。
公众意识与媒体报道
这一丑闻显著提高了公众对深度伪造和合成媒体的认识。包括《纽约时报》、《华盛顿邮报》和CNN在内的主要新闻机构发表了大量报道，解释该技术及其影响。这一事件还引发了学术界对深度伪造的社会和伦理维度的研究，学者们探讨此类内容如何传播以及如何应对其影响。
2020年发表的一项研究发现，负面情绪和情感反应是社交媒体上深度伪造分享的主要驱动因素，这一发现与佩洛西视频的病毒式传播相符。这一事件还凸显了媒体素养教育的必要性，因为许多观众最初相信该视频是真实的。作为回应，斯坦福人工智能实验室和麻省理工学院计算机科学与人工智能实验室等组织开发了教育资源与检测工具。
遗产
2019年的深度伪造丑闻常被视为公众理解合成媒体的转折点。它表明，即使是简单的操纵也能破坏对视频证据的信任，并强调了开发稳健检测和缓解策略的紧迫性。这一事件还影响了后续关于深度伪造检测的研究，包括使用残差网络和U-Net架构，并促进了内容真实性行业标准的发展，例如内容来源与真实性联盟（C2PA）倡议。
此后几年，深度伪造技术持续发展，变得更加逼真且易于获取。2019年的丑闻仍是讨论人工智能生成媒体社会影响的参考点，并经常在学术文献和政策辩论中被引用。这一事件还预示了后来的争议，例如深度伪造在政治竞选中的使用以及社交媒体平台上人工智能生成内容的激增。