생성적 적대 신경망(GAN)은 기계 학습 프레임워크의 한 부류이며 생성적 AI를 위한 대표적인 접근 방식이다. 이 개념은 2014년 6월 Ian Goodfellow와 그의 동료들에 의해 처음 개발되었다. GAN에서는 두 개의 신경망이 제로섬 게임에서 경쟁하며, 한 에이전트의 이득은 다른 에이전트의 손실이 된다. 훈련 세트가 주어지면, 이 기법은 훈련 세트와 동일한 통계를 가진 새로운 데이터를 생성하는 방법을 학습한다. 예를 들어, 사진으로 훈련된 GAN은 인간 관찰자에게 적어도 표면적으로는 진짜처럼 보이는 새로운 사진을 생성할 수 있다. 원래 비지도 학습을 위한 생성 모델의 형태로 제안되었지만, GAN은 준지도 학습, 완전 지도 학습, 강화 학습에도 유용한 것으로 입증되었다.
GAN의 핵심 아이디어는 입력이 얼마나 현실적인지 평가하는 또 다른 신경망인 판별자를 통한 간접 훈련에 기반하며, 판별자 자체는 동적으로 업데이트된다. 생성자는 특정 이미지와의 거리를 최소화하도록 훈련되는 것이 아니라 판별자를 속이도록 훈련되며, 이를 통해 모델은 비지도 방식으로 학습할 수 있다. GAN은 진화 생물학의 의태와 유사하며, 두 신경망 사이에 진화적 군비 경쟁이 벌어진다.
정의
원래 GAN은 생성자와 판별자라는 두 플레이어 간의 게임으로 정의된다. 생성자의 전략 집합은 주어진 공간의 모든 확률 측도의 집합이고, 판별자의 전략 집합은 입력을 확률로 매핑하는 마르코프 커널의 집합이다. 목적 함수는 제로섬 게임으로, 생성자는 이를 최소화하려 하고 판별자는 이를 최대화하려 한다. 생성자의 임무는 출력 분포를 참조 분포에 최대한 가깝게 일치시키는 것이고, 판별자의 임무는 실제 데이터에 대해 1에 가까운 값을, 생성된 데이터에 대해 0에 가까운 값을 출력하는 것이다.
실제로 생성 네트워크는 후보를 생성하고 판별 네트워크는 이를 평가한다. 이는 데이터 분포에 기반한 경쟁을 만든다. 생성자는 잠재 공간에서 실제 데이터 분포로 매핑하는 방법을 학습하며, 판별자가 실제 데이터와 구별할 수 없는 후보를 생성하는 것을 목표로 한다. 판별자의 목표는 이러한 후보를 올바르게 식별하는 것이지만, 생성자가 개선됨에 따라 판별자의 임무는 더 어려워지고 오류율이 증가한다.
알려진 데이터 세트는 판별자의 초기 훈련 데이터로 사용된다. 훈련은 판별자가 허용 가능한 정확도를 달성할 때까지 훈련 데이터 세트의 샘플을 제시하는 것을 포함한다. 생성자는 판별자를 속이는 데 성공했는지 여부에 따라 훈련된다. 일반적으로 생성자는 다변량 정규 분포와 같은 사전 정의된 잠재 공간에서 샘플링된 무작위 입력으로 시드된다. 그 후 생성자가 합성한 후보는 판별자에 의해 평가된다. 두 네트워크 모두에 독립적인 역전파 절차가 적용되어 생성자는 더 나은 샘플을 생성하고 판별자는 합성 샘플을 더 잘 식별하게 된다. 이미지 생성에 사용될 때 생성자는 일반적으로 역컨볼루션 신경망이고 판별자는 컨볼루션 신경망이다.
다른 통계적 기계 학습 방법과의 관계
GAN은 암시적 생성 모델로, 가능도 함수를 명시적으로 모델링하지 않으며 주어진 샘플에 해당하는 잠재 변수를 찾는 수단도 제공하지 않는다는 점에서 흐름 기반 생성 모델과 같은 대안과 다르다. WaveNet 및 PixelRNN과 같은 완전 가시 신뢰 네트워크 및 일반적인 자기회귀 모델과 비교하여 GAN은 네트워크를 통한 여러 패스 대신 한 번의 패스로 완전한 샘플 하나를 생성할 수 있다. 볼츠만 머신 및 선형 ICA와 비교하여 네트워크가 사용하는 함수 유형에 제한이 없다. 신경망은 보편 근사자이므로 GAN은 점근적으로 일관적이다. 2026년 현재 변분 오토인코더도 보편 근사자로 입증되었지만, GAN은 적대적 훈련 패러다임에서 여전히 구별된다.
훈련 역학 및 과제
GAN 훈련은 섬세한 균형을 포함한다. 생성자와 판별자는 번갈아 훈련되며, 종종 생성자가 제한된 다양성의 출력을 생성하는 모드 붕괴 또는 두 네트워크가 평형에 도달하지 않고 진동하는 비수렴과 같은 문제를 초래한다. 훈련을 안정화하기 위해 수정된 목적 함수, 아키텍처 변경, 정규화 방법 등 다양한 기법이 개발되었다. GAN의 적대적 특성은 하이퍼파라미터에 민감하게 만들며, 훈련에는 신중한 조정이 필요하다.
응용 분야
GAN은 이미지 생성, 스타일 전이, 데이터 증강, 초해상도에 널리 적용되었다. 또한 다른 모델 훈련을 위한 현실적인 합성 데이터 생성, 의료 영상, 예술 및 음악 생성과 같은 창의적 분야에서도 사용된다. GAN은 Deep learning 연구에 사용되었으며, 그 원리는 Generative AI의 다른 영역에도 영향을 미쳤다.
영향 및 향후 방향
GAN의 도입은 Machine learning과 Artificial intelligence에 지대한 영향을 미쳤다. 조건부 GAN, 순환 일관성 GAN, 점진적 GAN과 같은 수많은 변형과 개선을 고무했다. 훈련 안정성 및 평가 지표와 같은 과제를 해결하기 위한 연구가 계속되고 있다. GAN은 Large language model 및 Transformer (architecture)와 같은 다른 모델과 함께 생성적 AI 도구 키트의 기본 도구로 남아 있지만, 적대적 프레임워크에서 구별된다.