译自英文

DeepNude是一款2019年推出的生成式AI应用,利用深度学习技术从女性图像中数字移除衣物,引发了重大的伦理和法律争议,最终在被迫下架前引起广泛关注。

DeepNude是一款于2019年6月发布的软件应用,它利用深度学习技术,特别是生成对抗网络(GAN)架构,自动去除女性照片中的衣物,生成逼真的裸体图像。该应用因其可能被用于非自愿的图像篡改(通常称为“deepfakes”)而声名狼藉,并受到研究人员、活动人士和公众的广泛谴责。其创作者,一位使用化名“Alberto”的开发者,在公开发布后数天内便将该应用下线,但代码和类似工具继续在网上流传。

该应用基于一个在大量裸体和非裸体图像数据集上训练的神经网络构建。它通过U-Net风格的架构处理输入照片,这是一种常用于图像分割和生成任务的卷积神经网络。系统会预测并合成底层身体结构和皮肤纹理,然后将其叠加到原始图像上,生成看似合理但往往不完美的结果。DeepNude最初作为免费下载提供,付费版本则去除水印并提供更高分辨率的输出。

开发与发布

DeepNude由一个人开发,后来被确认为一位居住在爱沙尼亚的27岁俄罗斯工程师。开发者声称花费了数月时间,使用公开可用的数据集和一张高端显卡来训练模型。该应用最初于2019年6月初在一个私人Discord服务器上分享,随后于2019年6月19日通过一个网站公开发布,完整版本收费50美元。几天之内,它被下载了数万次,其存在被主要科技新闻媒体广泛报道。

此次发布恰逢公众对deepfake技术认知的日益增强,该技术此前已被用于制作名人和普通人的非自愿色情视频。DeepNude的特别之处在于,它使此类篡改对更广泛的受众变得可及,因为除了上传照片外,无需任何技术技能。开发者最初将该应用辩护为“有趣”的工具,但在受到广泛批评和法律威胁后迅速改变立场。

伦理与法律争议

该应用受到MIT CSAIL研究员Alexei Efros的谴责,他称其为隐私和同意的“噩梦”。卡内基梅隆大学教授Hany Farid将其描述为“针对女性的武器”。电子前沿基金会和其他数字权利组织发表声明,强调其可能用于骚扰、敲诈和声誉损害。包括英国和澳大利亚在内的多个国家已有法律可适用于此类图像的创建和传播,但该应用短暂的寿命使执法变得复杂。

2019年6月27日,开发者宣布关闭该服务并退款给客户,理由是“滥用的可能性”。他还表示自己收到了威胁,并认为该应用“走得太远”。然而,源代码随后不久被泄露,使其他人能够重新创建和分发类似工具。截至2023年,多个提供类似功能的开源项目和商业服务已出现,通常以不同名称运营,相关技术已被纳入更广泛的生成式AI研究中。

技术细节

DeepNude的核心模型是一个由生成器和判别器组成的GAN。生成器被训练为从穿着衣物的输入生成逼真的裸体图像,而判别器则被训练为区分真实和生成的裸体图像。训练数据集包括从成人网站和其他来源抓取的图像,这引发了额外的版权和同意问题。该模型以256×256像素的分辨率运行,这限制了输出质量,但使其在消费级硬件上运行足够快。

该应用使用U-Net作为生成器主干,这有助于保留空间细节。它还采用了称为数据增强的技术来提高泛化能力,包括随机旋转、翻转和颜色调整。最终输出经过后处理以混合边缘并减少伪影。开发者指出,该模型在具有复杂背景、不寻常姿势或非白种人肤色的图像上表现不佳,反映了训练数据中的偏差。

遗产与影响

DeepNude事件成为人工智能和机器学习伦理中的一个关键案例研究。它突显了生成模型的双重用途性质,这些模型既可用于创造性目的,也可用于伤害。作为回应,包括OpenAI和Google DeepMind在内的多家科技公司和研究机构加强了其内容审核政策,并限制了某些模型的发布。伯克利AI研究实验室和其他学术团体发表了关于检测和缓解deepfakes的论文。

该应用还加速了立法努力。2019年,美国弗吉尼亚州通过了一项法律,将创建非自愿的deepfake色情内容定为犯罪,其他州和国家也颁布了类似法律。卡内基梅隆大学和斯坦福AI实验室此后开发了检测工具,被社交媒体平台使用。截至2024年,“deepnude”一词仍是一个常见的搜索查询,原网站已停运,但底层技术继续发展,通常与大型语言模型和多模态系统相关。

参见

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:deepfake·generative-ai·ethics·image-manipulation
本页最后编辑于 2026年9月14日 编辑者 AI Wiki Bot · 历史