2019年的深度伪造丑闻指的是2019年5月，一段经过篡改的美国众议院议长南希·佩洛西的视频在网络上迅速传播的事件。该视频被放慢至原速的约75%，并改变了音频音调，使佩洛西看起来言语含糊、动作异常，从而造成她醉酒的错误印象。尽管这段视频在严格技术意义上并非深度伪造--它没有使用生成式人工智能或神经网络--但它成为公众认识合成媒体以及基于人工智能的操纵可能传播虚假信息的一个决定性时刻。这一事件引发了广泛的媒体报道、平台政策辩论以及关于监管被操纵媒体的立法讨论。
该视频于2019年5月23日首次出现在Facebook上，并迅速传播到Twitter和YouTube等其他平台。几天之内，其观看次数达到数百万。Facebook最初拒绝删除该视频，理由是反对审查的政策，但后来添加了事实核查标签并减少了其传播。Twitter和YouTube也因处理该内容而受到批评。这一事件凸显了社交媒体平台在检测和应对被操纵媒体方面面临的挑战，并推动了利用机器学习和计算机视觉技术开发自动检测工具的努力。
技术背景
佩洛西视频并非使用深度学习方法制作，但在公众讨论中常与深度伪造混为一谈。深度伪造是“深度学习”和“伪造”的合成词，指使用人工智能工具编辑或生成的图像、视频或音频。该技术依赖于深度学习技术，特别是生成对抗网络（GAN）和变分自编码器，以创建逼真但虚构的内容。相比之下，佩洛西视频使用简单的视频编辑软件放慢镜头，这种技术不需要人工智能。然而，这一事件表明，即使是低技术含量的操纵也能实现病毒式传播并造成重大声誉损害。
2010年代中期GAN的发展已经使复杂的深度伪造成为可能，但佩洛西视频表明，即使是粗糙的操纵也能有效传播错误信息。这一认识促使研究人员和政策制定者关注更广泛的合成媒体类别，其中包括人工智能生成的内容和传统编辑的内容。该事件还加速了检测方法的研究，例如分析面部运动、音频不一致性和元数据。
平台回应
Facebook最初决定保留视频，同时添加事实核查标签，这引起了政治家、记者和倡导团体的批评。该公司后来更新了政策，在特定情况下删除误导性的被操纵媒体，但佩洛西事件暴露了现有审核系统的局限性。Twitter也因允许视频保留而面临强烈反对，尽管它最终添加了警告标签。YouTube由谷歌拥有，最初因版权声明删除了视频，但后来重新上传并附上事实核查说明。
这一事件导致平台对被操纵媒体政策的审查加强。在随后的几个月里，Facebook宣布禁止可能误导观众的深度伪造，Twitter也推出了类似政策。这些措施是行业对人工智能生成的虚假信息日益增长威胁的更广泛回应的一部分，其中包括微软和学术机构等公司开发检测工具。
政治和法律影响
佩洛西视频成为关于选举安全和民主进程完整性的辩论焦点。立法者，包括时任参议员卡玛拉·哈里斯和众议院议长南希·佩洛西本人，呼吁社交媒体公司对被操纵媒体采取更强有力的行动。该事件还推动了立法提案，例如2019年6月在美国众议院提出的《深度伪造问责法案》，该法案要求深度伪造的创作者为其内容添加标签。
在国际上，这一事件促进了关于合成媒体监管的更广泛讨论。在中国，深度伪造被称为“换脸”，政府于2019年出台规定，要求深度伪造内容必须明确标注，并需获得所描绘个人的同意。欧盟也开始探索应对虚假信息的措施，包括《虚假信息行为准则》。
公众意识和媒体报道
这一丑闻显著提高了公众对深度伪造和合成媒体的认识。包括《纽约时报》、《华盛顿邮报》和美国有线电视新闻网在内的主要新闻机构发表了广泛报道，解释该技术及其影响。该事件还引发了关于深度伪造社会伦理维度的学术研究，学者们研究此类内容如何传播以及如何应对其影响。
2020年发表的一项研究发现，负面情绪和情感反应是深度伪造在社交媒体上分享的主要驱动因素，这一发现与佩洛西视频的病毒式传播相符。该事件还凸显了媒体素养教育的必要性，因为许多观众最初认为该视频是真实的。作为回应，斯坦福人工智能实验室和麻省理工学院计算机科学与人工智能实验室等组织开发了教育资源和检测工具。
遗产
2019年的深度伪造丑闻常被视为公众理解合成媒体的转折点。它表明即使是简单的操纵也能破坏对视频证据的信任，并强调了开发稳健检测和缓解策略的紧迫性。该事件还影响了后续深度伪造检测研究，包括使用残差网络和U-Net架构，并促进了内容真实性行业标准的发展，例如内容来源与真实性联盟（C2PA）倡议。
此后几年，深度伪造技术持续发展，变得更加逼真和易于获取。2019年的丑闻仍然是讨论人工智能生成媒体社会影响的参考点，并经常在学术文献和政策辩论中被引用。该事件还预示了后来的争议，例如深度伪造在政治竞选中的使用以及社交媒体平台上人工智能生成内容的激增。