2019年6月，一段描绘Meta Platforms（当时名为Facebook）首席执行官马克·扎克伯格被篡改的视频在社交媒体上广泛传播，成为深度伪造技术进入主流公众讨论的最突出早期案例之一。该片段时长约一分钟，展示了扎克伯格以一种不自然的语调发表关于Facebook对用户权力的独白。该视频并非由扎克伯格或其公司制作，而是由艺术家和一家数字特效工作室创作，旨在展示合成媒体的危险性。
该视频由英国数字艺术家比尔·波斯特斯与广告公司合作制作。视觉篡改的来源是一个定制的深度学习系统，这是一种能够合成逼真图像和声音的人工智能形式。该作品受委托为英国谢菲尔德纪录片节的一场展览创作，在线上发布前首次在该展览中展出。
创作与技术基础
创作者使用了一种称为神经网络的机器学习技术，将扎克伯格的面部动作从真实素材中映射出来。最终视频同时篡改了视觉轨道和音频，配音与扎克伯格的自然语音模式不符。底层技术借鉴了深度学习和生成式人工智能的进展，这些进展在过去十年中在学术和工业研究环境中得到发展。该视频并非简单剪辑，而是一种合成重建，展示了深度伪造算法如何在未经同意的情况下应用于公众人物。
该作品是波斯特斯名为“战争未来”系列的一部分，该系列还包括美国前总统巴拉克·奥巴马和虚构的辣妹组合女王演讲的深度伪造视频。对于扎克伯格视频，团队使用了一种换脸技术，依赖于扎克伯格公开露面的数据集，从新闻采访和演讲中捕捉其表情和唇部动作。
公众与商业回应
视频发布后，在包括Instagram在内的平台上迅速走红，扎克伯格本人也使用该平台。作为回应，Facebook拒绝删除该视频，理由是其政策不删除不构成诽谤或违反社区标准的内容，即使内容具有误导性。该公司添加了一个事实核查标签，将视频标记为“虚假”，并提供第三方验证组织的背景信息。这一决定与该平台早前删除另一段南希·佩洛西深度伪造视频的做法形成对比，后者被放慢速度以使其看起来语无伦次。
这一事件成为关于平台治理和合成媒体传播辩论的参考点。它凸显了生成式人工智能时代内容审核的局限性，因为平台在言论自由与操纵可能性之间艰难平衡。后来，在2020年，Facebook更新了政策，禁止可能造成严重伤害的误导性篡改视频，尽管2019年的事件仍是实施此类规则挑战的案例研究。
对合成媒体的更广泛影响
该视频经常在关于深度伪造社会风险的讨论中被引用，包括其在政治虚假信息、未经同意的色情内容和金融欺诈中的潜在用途。研究人员和政策制定者指出，虽然扎克伯格片段是一部讽刺作品，但底层技术可能被恶意使用。它还强调了自动检测的难度，因为该视频足够令人信服，骗过了许多观众。
这一事件推动了关于深度伪造检测的学术研究浪潮，麻省理工学院计算机科学与人工智能实验室和斯坦福人工智能实验室等机构开发了识别篡改媒体的算法。它还影响了倡导团体和立法努力的工作，包括美国国会提出的将欺骗性合成媒体定为犯罪的提案。在随后的几年中，大型语言模型和其他生成工具的快速发展扩大了合成内容的范围，使2019年的视频成为早期深度伪造的一个过时但具有启发性的例子。
遗产与后续发展
回顾来看，该视频被公认为公众理解AI生成内容的基准。它表明该技术不再局限于研究实验室，而是可以被使用开源工具的艺术家和爱好者部署。创作者后来在202惯年发布了扎克伯格的后续深度伪造视频，原始视频仍存档在YouTube等平台上，并带有事实核查标签。
该事件还加速了数字内容来源标准的发展，例如由Adobe联合创立并最终被主要科技公司采用的内容真实性倡议。到2020年代中期，AI生成图像和视频的激增引发了对水印和透明度措施的广泛呼吁，扎克伯格片段在这些讨论中常被视为早期试金石。
参见
注意：提供的链接仅限于指定列表；几个相关主题（例如，ai-safety、deepfake-detection）不在可用slug中，因此仅包含两个使用的链接。
参考文献
- Feed等人。（2019）。马克·扎克伯格深度伪造视频是如何制作的。The Verge。 2. BBC新闻。（2019）。马克·扎克伯格深度伪造视频：它是什么以及为何重要。 3. Facebook新闻室。（2019）。关于篡改媒体的政策。
注意：参考文献为说明性示例，未按指示引用外部URL。