生成敵対的ネットワーク(GAN)は、機械学習フレームワークの一種であり、生成AIに取り組むための顕著なフレームワークである。この概念は、2014年6月にイアン・グッドフェローとその同僚によって最初に開発された。GANでは、2つのニューラルネットワークがゼロサムゲームの形で互いに競争し、一方のエージェントの利得が他方のエージェントの損失となる。
訓練セットが与えられると、この技術は訓練セットと同じ統計を持つ新しいデータを生成することを学習する。例えば、写真で訓練されたGANは、人間の観察者に少なくとも表面的には本物に見える新しい写真を生成でき、多くの現実的な特徴を持つ。もともとは教師なし学習のための生成モデルの一形態として提案されたが、GANは半教師あり学習、完全教師あり学習、強化学習にも有用であることが証明されている。
GANの核となるアイデアは、入力がどれほど「現実的」に見えるかを判断できる別のニューラルネットワークである識別器を通じた「間接的」な訓練に基づいており、この識別器自体も動的に更新される。つまり、生成器は特定の画像への距離を最小化するように訓練されるのではなく、識別器を欺くように訓練される。これにより、モデルは教師なしの方法で学習できる。
GANは進化生物学における擬態に類似しており、両方のネットワーク間で進化的軍拡競争が行われる。
数学的定義
元のGANはゲームとして定義される。各確率空間 \((\Omega, \mu_{\text{ref}})\) はGANゲームを定義する。2人のプレイヤー、生成器と識別器がいる。生成器の戦略集合は \(\mathcal{P}(\Omega)\) であり、これは \(\Omega\) 上のすべての確率測度 \(\mu_G\) の集合である。識別器の戦略集合はマルコフ核 \(\mu_D: \Omega \to \mathcal{P}[0,1]\) の集合であり、ここで \(\mathcal{P}[0,1]\) は \([0,1]\) 上の確率測度の集合である。
GANゲームはゼロサムゲームであり、目的関数は次の通りである:
\[ L(\mu_G, \mu_D) := \mathbb{E}_{x \sim \mu_{\text{ref}}, y \sim \mu_D(x)}[\ln y] + \mathbb{E}_{x \sim \mu_G, y \sim \mu_D(x)}[\ln(1-y)]. \]
生成器は目的関数を最小化することを目指し、識別器は目的関数を最大化することを目指す。生成器のタスクは \(\mu_G \approx \mu_{\text{ref}}\) に近づけること、つまり出力分布を参照分布に可能な限り近づけることである。識別器のタスクは、入力が参照分布からのものであるように見える場合は1に近い値を出力し、入力が生成器の分布からのものであるように見える場合は0に近い値を出力することである。
実際には
生成ネットワークは候補を生成し、識別ネットワークはそれらを評価する。これにより、データ分布に基づく競争が生まれ、生成器は潜在空間から真のデータ分布への写像を学習し、識別器が実データと区別できない候補を生成することを目指す。識別器の目標はこれらの候補を正確に識別することであるが、生成器が改善するにつれて、そのタスクはより困難になり、識別器の誤り率が増加する。
既知のデータセットが識別器の初期訓練データとして使用される。訓練では、訓練データセットからのサンプルが許容可能な精度に達するまで提示される。生成器は、識別器を欺くことに成功したかどうかに基づいて訓練される。通常、生成器は事前定義された潜在空間(例えば、多変量正規分布)からサンプリングされたランダム化入力でシードされる。その後、生成器によって合成された候補は識別器によって評価される。両方のネットワークに独立したバックプロパゲーション手順が適用され、生成器がより良いサンプルを生成する一方で、識別器は合成サンプルをフラグ付けする能力が向上する。画像生成に使用される場合、生成器は通常、逆畳み込みニューラルネットワークであり、識別器は畳み込みニューラルネットワークである。
他の統計的機械学習手法との関係
GANは暗黙的生成モデルであり、つまり、フローベースの生成モデルなどの代替手法とは異なり、尤度関数を明示的にモデル化せず、与えられたサンプルに対応する潜在変数を見つける手段も提供しない。
WaveNetやPixelRNNなどの完全可視信念ネットワークや、一般に自己回帰モデルと比較して、GANはネットワークを複数回通過するのではなく、1回のパスで完全なサンプルを1つ生成できる。ボルツマンマシンや線形ICAと比較して、ネットワークが使用する関数の種類に制限はない。
ニューラルネットワークは普遍近似器であるため、GANは漸近的に一貫している。2026年現在、変分オートエンコーダーは普遍近似器であることが証明されているが、GANは機械学習および深層学習の分野において、依然として独自の影響力のあるアプローチである。このフレームワークは多くの変種や応用を生み出し、人工知能およびニューラルネットワーク研究のより広範な発展に貢献している。