생성적 적대 신경망(GAN)은 머신 러닝 프레임워크의 한 부류이자 생성형 AI에 접근하는 데 있어 두드러진 프레임워크이다. 이 개념은 2014년 6월 이안 굿펠로우와 그의 동료들에 의해 처음 개발되었다. GAN에서는 두 개의 신경망이 제로섬 게임의 형태로 서로 경쟁하는데, 여기서 한 에이전트의 이득은 다른 에이전트의 손실이 된다.
훈련 집합이 주어지면, 이 기법은 훈련 집합과 동일한 통계적 특성을 가진 새로운 데이터를 생성하는 방법을 학습한다. 예를 들어, 사진으로 훈련된 GAN은 인간 관찰자에게 적어도 표면적으로는 진짜처럼 보이는 새로운 사진을 생성할 수 있으며, 많은 사실적인 특성을 지닌다. 원래 비지도 학습을 위한 생성 모델의 한 형태로 제안되었지만, GAN은 준지도 학습, 완전 지도 학습, 강화 학습에도 유용한 것으로 입증되었다.
GAN의 핵심 아이디어는 입력이 얼마나 "사실적인지"를 판단할 수 있는 또 다른 신경망인 판별자를 통한 "간접적인" 훈련에 기반하며, 이 판별자 자체도 동적으로 업데이트된다. 이는 생성자가 특정 이미지와의 거리를 최소화하도록 훈련되는 것이 아니라, 판별자를 속이는 데 훈련된다는 것을 의미한다. 이를 통해 모델은 비지도 방식으로 학습할 수 있다.
GAN은 진화 생물학에서의 의태와 유사하며, 두 네트워크 사이에 진화적 군비 경쟁이 벌어진다.
수학적 정의
원래 GAN은 게임으로 정의된다. 각 확률 공간 \((\Omega, \mu_{\text{ref}})\)은 GAN 게임을 정의한다. 생성자와 판별자라는 두 명의 플레이어가 있다. 생성자의 전략 집합은 \(\mathcal{P}(\Omega)\)이며, 이는 \(\Omega\)에 대한 모든 확률 측도 \(\mu_G\)의 집합이다. 판별자의 전략 집합은 마르코프 커널 \(\mu_D: \Omega \to \mathcal{P}[0,1]\)의 집합이며, 여기서 \(\mathcal{P}[0,1]\)은 \([0,1]\)에 대한 확률 측도의 집합이다.
GAN 게임은 제로섬 게임이며, 목적 함수는 다음과 같다:
\[ L(\mu_G, \mu_D) := \mathbb{E}_{x \sim \mu_{\text{ref}}, y \sim \mu_D(x)}[\ln y] + \mathbb{E}_{x \sim \mu_G, y \sim \mu_D(x)}[\ln(1-y)]. \]
생성자는 목적 함수를 최소화하는 것을 목표로 하고, 판별자는 목적 함수를 최대화하는 것을 목표로 한다. 생성자의 임무는 \(\mu_G \approx \mu_{\text{ref}}\)에 접근하여 출력 분포를 참조 분포에 최대한 가깝게 일치시키는 것이다. 판별자의 임무는 입력이 참조 분포에서 온 것으로 보이면 1에 가까운 값을 출력하고, 입력이 생성자 분포에서 온 것으로 보이면 0에 가까운 값을 출력하는 것이다.
실제 적용
생성 네트워크는 후보를 생성하는 반면 판별 네트워크는 이를 평가한다. 이는 데이터 분포에 기반한 경쟁을 만들어내며, 생성자는 잠재 공간에서 실제 데이터 분포로 매핑하는 방법을 학습하여 판별자가 실제 데이터와 구분할 수 없는 후보를 생성하는 것을 목표로 한다. 판별자의 목표는 이러한 후보를 정확히 식별하는 것이지만, 생성자가 개선됨에 따라 판별자의 임무는 더 어려워지고 오류율이 증가한다.
알려진 데이터셋은 판별자의 초기 훈련 데이터로 사용된다. 훈련은 판별자가 허용 가능한 정확도를 달성할 때까지 훈련 데이터셋의 샘플을 제시하는 것을 포함한다. 생성자는 판별자를 속이는 데 성공하는지 여부에 따라 훈련된다. 일반적으로 생성자는 사전 정의된 잠재 공간(예: 다변량 정규 분포)에서 샘플링된 무작위 입력으로 시드된다. 그 후 생성자가 합성한 후보는 판별자에 의해 평가된다. 두 네트워크 모두에 독립적인 역전파 절차가 적용되어 생성자는 더 나은 샘플을 생성하고 판별자는 합성 샘플을 더 잘 식별하게 된다. 이미지 생성에 사용될 때, 생성자는 일반적으로 디콘볼루션 신경망이고 판별자는 합성곱 신경망이다.
다른 통계적 머신 러닝 방법과의 관계
GAN은 암시적 생성 모델로, 우도 함수를 명시적으로 모델링하지 않으며 주어진 샘플에 해당하는 잠재 변수를 찾는 수단도 제공하지 않는다는 점에서 플로우 기반 생성 모델과 같은 대안과 다르다.
WaveNet, PixelRNN과 같은 완전 가시 신뢰 네트워크 및 일반적인 자기회귀 모델과 비교할 때, GAN은 네트워크를 통한 여러 번의 패스 대신 한 번의 패스로 완전한 샘플 하나를 생성할 수 있다. 볼츠만 머신 및 선형 ICA와 비교할 때, 네트워크가 사용하는 함수 유형에 제한이 없다.
신경망은 보편 근사자이므로 GAN은 점근적으로 일관적이다. 2026년 현재, 변분 오토인코더는 보편 근사자임이 입증되었지만, GAN은 머신 러닝 및 딥 러닝 분야에서 여전히 독특하고 영향력 있는 접근 방식으로 남아 있다. 이 프레임워크는 수많은 변형과 응용을 고무시켰으며, 인공지능 및 신경망 연구의 광범위한 발전에 기여했다.