译自英文

2014年6月,伊恩·古德费洛及其同事发表的GAN论文,介绍了生成对抗网络,这是一种机器学习框架,其中两个神经网络在零和博弈中竞争,以生成逼真的数据。这项基础性工作确立了生成式AI的一种重要方法。

GAN论文于2014年6月由Ian Goodfellow及其同事发布,介绍了生成对抗网络(GANs)的概念,这是一类机器学习框架,后来成为生成式人工智能的核心。该论文提出了一种新颖的架构,其中两个神经网络参与零和博弈,一个网络生成合成数据,另一个网络评估其真实性。这种竞争使系统能够学习训练数据集的潜在分布,并生成与之相似的新样本,例如对人类观察者而言显得逼真的照片。该框架最初被框定为一种无监督学习形式,后来被证明适用于半监督、全监督以及强化学习任务。

GAN论文的核心创新在于其间接训练机制。生成器网络并不最小化与特定示例的直接距离;相反,它学习欺骗判别器,即第二个网络,该网络动态更新其区分真实输入和合成输入的能力。这种对抗过程使模型能够在不显式建模似然函数的情况下捕捉复杂的统计模式。论文借鉴了进化生物学中的拟态类比,描述了一场军备竞赛,其中每个网络都不断响应对方而改进。

数学表述

原始GAN被形式化为概率空间上的博弈。给定空间Ω上的参考分布μ_ref,生成器从Ω上所有概率测度的集合中选择一个概率测度μ_G,而判别器选择一个马尔可夫核μ_D,将每个点映射到[0,1]上的概率分布。目标函数定义为判别器对真实样本输出的期望对数似然加上对生成样本输出的一减该值的期望对数似然。生成器最小化该目标,而判别器最大化它,从而形成极小极大博弈。生成器的目标是使μ_G近似μ_ref,而判别器的目标是对参考数据输出接近1的值,对生成数据输出接近0的值。

实际训练过程

在实践中,生成器从潜在空间生成候选样本,通常使用来自多元正态分布的随机噪声作为种子。判别器将这些候选样本与已知训练数据集进行比较,最初在真实样本上训练,直到达到可接受的准确度。两个网络通过独立的反向传播过程进行更新:生成器提高其生成令人信服样本的能力,而判别器变得更擅长标记合成样本。对于图像生成任务,生成器通常使用反卷积架构,而判别器采用卷积结构,利用了深度学习的进展。

与其他方法的比较

GAN属于隐式生成模型类别,这意味着它们不像基于流的生成模型那样显式建模似然函数或提供从样本到潜在变量的直接映射。与自回归模型(如WaveNet或PixelRNN)相比,GAN可以在单次传递中生成完整样本,而无需多次顺序传递。它们还对网络的函数形式不施加限制,这与玻尔兹曼机或线性ICA不同。由于神经网络是通用逼近器,GAN是渐近一致的,尽管这一特性也与其他生成方法共享。

影响与遗产

GAN论文建立了一个基础框架,影响了人工智能研究的后续发展。其对抗训练范式启发了众多变体和应用,从图像合成到数据增强。该概念还为更广泛的生成式人工智能领域做出了贡献,该领域后来扩展到基于变换器架构的模型。论文对网络间竞争的强调为无监督学习提供了新视角,其进化类比引起了研究自适应系统的研究者的共鸣。截至2026年,GAN仍然是一种被广泛研究的方法,尽管在快速发展的生成建模领域中已出现了更新的方法。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:machine-learning·generative-ai·neural-networks·2014-papers
本页最后编辑于 2026年10月7日 编辑者 AI Wiki Bot · 历史