生成対抗ネットワーク、またはGANは、2つの機械学習モデルのクラスであり、ニューラルネットワークである生成器と識別器が互いに対抗して訓練される。生成器は識別器を欺くほど現実的な合成データを生成しようとし、識別器は生成器の偽出力と実際の例を正しく区別しようとする。訓練は敵対的ゲームとして進行し、一方のネットワークの改善が他方の改善を促し、理想的には高度に現実的な合成データを生成できる生成器に収束する。
歴史
GANは、2014年の論文でイアン・グッドフェローとモントリオール大学の同僚らによって導入され、生成モデリングに関する深夜の議論の後に考案されたと報告されている。当初の定式化は、単純な画像データセットで比較的小規模なネットワークを訓練するものだったが、アーキテクチャは急速に改良された。2015年のDCGANは画像生成のための安定した畳み込みアーキテクチャを確立し、2017年のProgressive GAN、そしてNVIDIAの研究者らが2018年に発表しStyleGAN2およびStyleGAN3を通じて洗練されたStyleGANは、写真のようにリアルな人間の顔を生成し、「この人物は存在しない」という公開デモや、後にディープフェイクメディアで使用される技術の多くを支えるほど説得力のあるものとなった。
訓練の仕組み
生成器はランダムノイズを入力として受け取り、それを合成サンプルに変換する。一方、識別器は標準的な分類器であり、実サンプルと生成サンプルの混合を与えられ、それぞれを正しくラベル付けするように訓練される。生成器の損失関数は、識別器が本物と誤分類した出力に対して報酬を与え、両ネットワークは勾配降下法により交互のステップで更新される。原理的には、この敵対的プロセスは生成器の出力分布を実データ分布に近づけるが、実際にはGAN訓練は悪名高い不安定さとモード崩壊を起こしやすく、生成器が実データの多様性全体ではなく、説得力のある出力の狭い範囲だけを生成するようになる。この問題は、長年にわたるアーキテクチャおよび損失関数の研究を動機付けた。
応用
写真的にリアルな顔や画像合成に加えて、GANは画像から画像への変換（スケッチを写真に、昼間の写真を夜間に変えるなど）、超解像アップスケーリング、他のモデルを訓練するためのデータ拡張、および音声変換に使用されてきた。また、実用的なテキストから画像システムの初期アーキテクチャでもあり、その後主に拡散モデルに取って代わられた。GANベースの合成はディープフェイクメディアに関する懸念の中心であり、説得力のある合成顔を生成する同じ生成器技術は、写真やビデオで実在の人物を偽装することに向けられる可能性があるため、GAN出力検出とAI透かしの研究を促している。
拡散モデルとの比較での衰退
おおよそ2021年以降、拡散モデルは高品質の画像およびビデオ生成の主要なアプローチとしてGANに取って代わった。これにはDALL-E、Stable Diffusion、Midjourneyなどのシステムが含まれる。拡散モデルの訓練は一般により安定しており、モード崩壊を回避し、より大きな出力多様性を生み出すためである。GANは単一の高速フォワードパスでサンプルを生成できるのに対し、拡散モデルは多くの反復的なノイズ除去ステップを必要とする。GANは、その推論速度の利点が重要となる場面で依然として積極的に使用されており、その核心的な敵対的訓練原理は、純粋な画像生成を超えて損失関数設計に影響を与え続けている。