2017年的深度伪造丑闻指的是深度伪造技术通过一位名为“deepfakes”的Reddit用户公开出现的事件，该用户发布了伪造的名人色情视频。这些视频利用机器学习技术制作，在未经同意的情况下将真实女演员描绘在露骨场景中。这一事件将“deepfake”一词、、即“深度学习”和“伪造”的合成词、、引入主流话语，凸显了人工智能创造令人信服的合成媒体的潜力。该丑闻引发了关于隐私、同意以及AI生成内容伦理影响的广泛辩论，促使科技公司和政策制定者作出早期回应。
深度伪造是一种合成媒体形式，利用基于AI的工具编辑或生成图像、视频或音频。它们利用神经网络架构等技术，包括变分自编码器和生成对抗网络（GAN），来操纵面部表情和外观。2017年的事件并非虚假媒体的首例，但它独特地结合了可访问性和逼真度，成为公众意识的一个转折点。用户“deepfakes”利用开源深度学习工具在视频中换脸，展示了非专家如何轻易滥用此类技术。
技术背景
深度伪造的技术基础在2010年代中期随着GAN的发展而奠定，GAN训练相互竞争的神经网络以生成越来越逼真的输出。先前的方法，如自编码器，产生的结果不够令人信服。1997年的“视频重写”程序是一个早期的学术里程碑，通过将音频与嘴形关联来自动化面部动画。后来的项目如“合成奥巴马”（2017年）和“Face2Face”（2016年）分别改善了照片级逼真的嘴部合成和实时面部表情重演。这些进展，加上计算能力的增长，使Reddit用户能够创建首批广泛传播的深度伪造视频。
公众与媒体反应
该丑闻迅速引起国际媒体关注，媒体报道了非自愿合成色情内容带来的伦理和法律挑战。Reddit和Twitter等平台采取措施禁止此类内容，而成人娱乐行业和倡导团体呼吁加强监管。这一事件也激发了学术界对检测方法的兴趣，因为计算机视觉和图像取证领域的研究人员开始开发识别被操纵媒体的工具。“deepfake”一词本身被广泛使用，该事件常被视为后续合成媒体社会与技术研究的催化剂。
监管与行业回应
事后，各国政府和技术公司开始探索减轻深度伪造滥用的方法。信息技术行业提出了检测和水印技术，而一些司法管辖区引入了针对非自愿私密图像的法律。该丑闻还影响了关于虚假信息和选举干预的讨论，因为深度伪造可能被用于制造假新闻或恶作剧。学术研究扩展到计算机科学和社会科学领域，考察推动深度伪造参与的因素及潜在对策。到2020年，一项关于深度伪造的调查指出该领域快速增长以及持续警惕的必要性。
文化与学术影响
2017年的丑闻具有持久的文化影响。在电影研究中，深度伪造引发了关于人脸作为数字矛盾场所的疑问，艺术家利用该技术“戏谑地重写电影史”或通过作品如Jake Elwes的“Zizi：酷儿化数据集”探索性别。社会科学家通过虚假信息和伦理的视角分析这一现象，而数字人类学家注意到接受度的文化差异，例如中文术语“换脸”缺乏“伪造”的负面含义。这些视角凸显了技术、社会与身份之间复杂的相互作用。
遗产
2017年的深度伪造丑闻现被公认为生成式AI历史上的一个关键时刻。它展示了AI技术的双重用途性质，既能用于创造性表达，也能造成伤害。该事件加速了对检测研究和政策制定的投资，影响了后来关于娱乐、新闻和安全领域合成媒体的辩论。虽然原始Reddit账户已被封禁，但“deepfake”一词持续存在，技术也在不断演进，凸显了在创新与伦理保障之间取得平衡的持续挑战。