2023年6月，一段涉及佛罗里达州州长罗恩·德桑蒂斯的篡改视频在网上流传，被伪装成一则虚假的支持广告。这段深度伪造视频利用人工智能叠加了州长的形象和声音，被呈现为其总统竞选活动的宣传片。该视频的真实性很快遭到事实核查人员和新闻机构的质疑，他们认定其为合成产物而非真实的竞选材料。这一事件引发了人们对生成式人工智能在政治传播中日益增长的作用及其对核实选举内容所带来挑战的关注。
这段深度伪造视频出现在政治活动高度活跃的时期，德桑蒂斯于2023年5月24日通过推特空间活动与埃隆·马斯克共同正式宣布参加2024年共和党总统候选人提名。这段虚假广告出现在包括推特（现为X）和YouTube在内的社交媒体平台上，描绘的德桑蒂斯与其已知的公开声明和竞选信息不符。该视频并非由德桑蒂斯官方竞选团队制作，竞选团队在向新闻媒体的声明中否认了该视频。视频来源仍不明确，但分析人士认为，它可能由试图模仿或诋毁州长的个人或团体制作。
技术特征
这段深度伪造视频采用了当代生成式人工智能中常见的技术，包括基于大量面部图像和音频录音数据集训练的深度学习模型。此类系统通常构建在神经网络架构上，如自编码器或生成对抗网络，能够通过将目标人物的面部表情和语音模式映射到源演员身上来合成逼真的视频。在此案例中，视频显示德桑蒂斯说出他未曾公开讲过的话，嘴唇动作和语音语调模仿了他的举止。检测工具，如MIT CSAIL和Stanford AI Lab等机构研究人员开发的工具，标记出眨眼、光照和音频频率方面的不一致，表明存在篡改。
平台回应
社交媒体平台因对深度伪造视频的处理而受到审视。推特在所有者埃隆·马斯克的领导下，于2022年削减了内容审核人员，引发了对错误信息传播的担忧。YouTube由谷歌拥有，维持了针对可能误导观众的篡改内容的政策，但执行力度不一。两个平台均未立即删除该视频，它在被第三方事实核查人员标记前继续流传了数天。这一事件促使人们呼吁建立更强大的检测和标签系统，一些专家主张对AI生成内容强制添加水印。
政治与法律影响
这则虚假广告引发了美国选举法下的法律问题，该法律禁止在联邦竞选活动中进行欺诈性虚假陈述。联邦选举委员会尚未就深度伪造发布具体规则，尽管包括加利福尼亚州和得克萨斯州在内的一些州已颁布法律，将欺骗性的AI生成政治内容定为犯罪。佛罗里达州本身当时没有此类法规，留下了监管空白。德桑蒂斯竞选团队未采取法律行动，但这一事件为2024年选举周期诚信问题的更广泛辩论做出了贡献。
更广泛背景
这一事件是2023年一波AI生成政治内容的一部分。同年早些时候，共和党全国委员会发布了一则纯AI生成的广告，描绘了乔·拜登总统领导下的反乌托邦未来，该广告明确标注为合成内容。相比之下，德桑蒂斯深度伪造视频未加标注，使其更具欺骗性。BAIR (Berkeley AI Research)和University of Oxford的研究人员在2023年年中发表的研究表明，深度伪造检测仍不可靠，即使对于先进系统，错误率也超过10%。这一事件凸显了随着生成式AI工具变得更加普及，媒体素养和技术保障措施的必要性。
后续影响
事件发生后，包括非营利组织OpenPanel在内的多个倡导团体呼吁联邦立法规范政治广告中的AI使用。2023年8月，联邦选举委员会宣布将考虑一项请愿，以明确其对深度伪造的管辖权，尽管在年底前未发生规则变更。德桑蒂斯竞选团队本身除简短否认外未公开回应视频，而是专注于传统竞选活动。这段深度伪造视频仍是学术和政策讨论中的案例研究，被Carnegie Mellon University和Stanford AI Lab的报告引用，作为对民主进程新兴威胁的示例。