변분 오토인코더(VAE)는 2013년 Diederik P. Kingma와 Max Welling이 도입한 인공 신경망 아키텍처이다. 이는 확률적 그래픽 모델과 변분 베이즈 방법의 계열에 속한다. 오토인코더 아키텍처일 뿐만 아니라, VAE는 변분 베이즈 방법의 수학적 공식 내에서 연구될 수 있으며, 다변량 가우스 분포와 같은 확률적 잠재 공간을 통해 신경 인코더 네트워크를 디코더에 연결한다. 이는 변분 분포의 매개변수에 해당한다.
인코더는 이미지와 같은 대규모 복잡한 데이터셋의 각 점을 단일 점이 아닌 잠재 공간 내의 분포로 매핑한다. 디코더는 반대 기능을 수행하여 분포에 따라 잠재 공간에서 입력 공간으로 매핑하지만, 실제로 디코딩 중에는 노이즈가 거의 추가되지 않는다. 점을 단일 점 대신 분포로 매핑함으로써 네트워크는 훈련 데이터에 과적합되는 것을 피할 수 있다. 두 네트워크는 일반적으로 재매개변수화 기법을 사용하여 함께 훈련되지만, 노이즈 모델의 분산은 별도로 학습될 수 있다. 처음에는 비지도 학습을 위해 설계되었지만, 이 모델은 반지도 및 지도 학습에도 효과적인 것으로 입증되었다.
아키텍처 및 작동 방식
VAE는 사전 분포와 노이즈 분포를 가진 생성 모델이다. 이러한 모델은 확률적 PCA나 희소 코딩처럼 기대값 최대화 메타 알고리즘을 사용해 훈련되는 경우가 많다. 이 방식은 일반적으로 계산적으로 다루기 어려운 데이터 가능도의 하한을 최적화하며, q-분포 또는 변분 사후 분포를 발견해야 한다. 이러한 q-분포는 일반적으로 각 데이터 점에 대해 별도의 최적화 과정에서 매개변수화된다. 그러나 VAE는 신경망을 상각된 접근 방식으로 사용하여 데이터 점 전반에 걸쳐 공동으로 최적화하며, 여러 데이터 점에 동일한 매개변수를 재사용하여 메모리를 크게 절약한다. 첫 번째 신경망인 인코더는 데이터 점을 입력으로 받아 변분 분포의 매개변수를 출력하며, 알려진 입력 공간에서 저차원 잠재 공간으로 매핑한다.
디코더는 두 번째 신경망으로, 예를 들어 노이즈 분포의 평균으로서 잠재 공간에서 입력 공간으로 매핑한다. 분산에 매핑하기 위해 또 다른 신경망을 사용할 수 있지만, 단순화를 위해 생략할 수 있으며, 이 경우 분산은 경사 하강법으로 최적화할 수 있다.
모델을 최적화하려면 재구성 오차와 쿨백-라이블러 발산(KL-D)이라는 두 가지 항이 필요하다. 두 항 모두 확률적 모델의 자유 에너지 표현에서 파생되며, 노이즈 분포와 데이터의 가정된 사전 분포(이를 p-분포라고 함)에 따라 달라진다. 예를 들어, IMAGENET과 같은 표준 VAE 작업은 일반적으로 가우스 노이즈를 가정하는 반면, 이진화된 MNIST와 같은 작업은 베르누이 노이즈를 요구한다. KL-D 항은 p-분포와 겹치는 q-분포의 확률 질량을 최대화하며, 이는 모드 탐색 동작을 초래할 수 있다. 재구성 항은 자유 에너지 표현식의 나머지 부분이며, 기대값을 계산하려면 샘플링 근사가 필요하다. 최근 접근 방식은 KL-D를 다양한 통계적 거리로 대체한다.
공식화
확률적 모델링 관점에서, 선택된 매개변수화된 확률 분포 p_θ(x) = p(x|θ)에 의해 데이터 x의 가능도를 최대화하려고 한다. 이 분포는 일반적으로 μ와 σ로 매개변수화된 가우스 분포 N(x|μ, σ)로 선택되며, 지수족의 구성원으로서 노이즈 분포로 다루기 쉽다. 단순한 분포는 최대화하기 쉽지만, 잠재 변수 z에 대한 사전 분포를 가진 분포는 다루기 어려운 적분을 초래한다. p_θ(x)를 찾기 위해 z에 대해 주변화한다:
p_θ(x) = ∫_z p_θ(x, z) dz,
여기서 p_θ(x, z)는 p_θ 하에서 관찰 가능한 데이터 x와 그 잠재 표현 z의 결합 분포이다. 연쇄 법칙에 의해 이는 p_θ(x) = ∫_z p_θ(x|z) p_θ(z) dz로 다시 쓸 수 있다.
이 적분은 일반적으로 다루기 어렵기 때문에, VAE는 인코더 네트워크를 도입하여 사후 분포 p_θ(z|x)를 변분 분포 q_φ(z|x)로 근사한다. 훈련 목표는 재구성 항과 KL 발산을 결합한 증거 하한(ELBO)이며, 재매개변수화 기법을 사용하여 확률적 경사 하강법으로 최적화된다.
훈련 및 재매개변수화 기법
재매개변수화 기법은 VAE 훈련의 핵심 기술이다. 이는 잠재 변수 z를 입력과 노이즈 변수의 결정적 함수로 표현함으로써 확률적 샘플링을 통한 역전파를 가능하게 한다. 가우스 잠재 공간의 경우, z는 z = μ + σ ⊙ ε로 샘플링되며, 여기서 ε는 표준 정규 분포에서 추출된다. 이는 ELBO의 기울기가 인코더 및 디코더 매개변수에 대해 계산 가능하게 만든다.
인코더는 변분 분포의 평균 μ와 분산 σ를 출력하고, 디코더는 샘플링된 z에서 입력을 재구성한다. 재구성 오차는 디코더가 입력을 얼마나 잘 재구성하는지 측정하는 반면, KL 발산은 잠재 공간을 사전 분포(일반적으로 표준 정규 분포)에 맞게 정규화한다. 이러한 균형은 생성에 샘플링할 수 있는 매끄럽고 연속적인 잠재 공간을 장려한다.
응용 및 변형
VAE는 Generative AI에서 이미지 생성, 이상 탐지, 표현 학습에 널리 적용되었다. 또한 잠재 공간이 분류에 의미 있는 특징을 포착할 수 있는 반지도 학습에도 사용된다. 변형에는 KL 항에 가중치를 두어 분리 가능한 표현을 장려하는 베타-VAE와 이산 잠재 코드를 사용하는 VQ-VAE가 포함된다. 통계적 거리 VAE 변형은 KL-D를 다른 거리로 대체한다.
생성적 적대 신경망(GAN)과 같은 다른 생성 모델과 비교할 때, VAE는 안정적인 훈련과 원리적인 확률적 프레임워크를 제공하지만 종종 더 흐릿한 샘플을 생성한다. Deep learning 아키텍처와 관련이 있으며 생성 모델 연구의 기본 토픽이다. 이 모델은 여러 방식으로 확장되었으며, 반지도 학습과 표현 학습을 포함한 다양한 작업에 적용되고, 여전히 활발한 연구 분야로 남아 있다.