헬름홀츠 머신은 확률적 모델의 비지도 학습을 위해 설계된 신경망의 한 유형이다. 1995년 제프리 힌턴, 피터 데이언, 브렌던 프레이, 리처드 저멜에 의해 소개되었다. 이 아키텍처는 두 가지 상호 보완적인 구성 요소로 이루어져 있다: 입력 데이터를 잠재 변수에 대한 분포로 매핑하는 인식 모델과, 해당 잠재 변수로부터 데이터를 재구성하는 생성 모델이다. 이 머신은 깨어있는-잠자는 알고리즘(wake-sleep algorithm)을 사용하여 훈련되며, 이 알고리즘은 잠재 상태를 추론하기 위해 인식 가중치를 조정하는 것과 데이터를 재구성하기 위해 생성 가중치를 조정하는 것을 번갈아 수행한다.
헬름홀츠 머신은 19세기 물리학자이자 생리학자인 헤르만 폰 헬름홀츠의 이름을 따서 명명되었으며, 그는 지각이 무의식적 추론을 포함한다고 제안했다 - 뇌는 감각 입력을 해석하기 위해 세계에 대한 모델을 구축한다는 것이다. 이 머신은 데이터의 계층적 생성 모델을 학습함으로써 이러한 아이디어를 구현하며, 여기서 더 높은 수준은 더 추상적인 특징을 나타내고 더 낮은 수준은 더 세부적인 세부 사항을 나타낸다.
아키텍처
헬름홀츠 머신은 두 세트의 연결을 가진 계층 구조를 가지고 있다. 상향식(인식) 연결은 입력 계층에서 최상위 계층으로 실행되고, 하향식(생성) 연결은 반대 방향으로 실행된다. 각 계층은 일련의 확률적 이진 유닛을 포함한다. 인식 모델은 아래 계층이 주어졌을 때 각 은닉 유닛이 활성화될 확률을 계산하는 반면, 생성 모델은 위 계층이 주어졌을 때 각 유닛이 활성화될 확률을 계산한다.
이 양방향 설계는 네트워크가 추론(패턴 인식)과 생성(새 샘플 생성)을 모두 수행할 수 있게 한다. 인식 모델은 일반적으로 정확히 계산하기 어려운 잠재 변수에 대한 사후 분포를 근사한다. 생성 모델은 데이터와 잠재 변수에 대한 결합 분포를 정의하며, 이를 샘플링하여 새로운 데이터 포인트를 생성할 수 있다.
깨어있는-잠자는 알고리즘
깨어있는-잠자는 알고리즘은 두 단계의 훈련 절차이다. 깨어있는 단계에서 네트워크는 데이터 벡터를 제시받고, 인식 모델을 사용하여 상향식으로 일련의 잠재 상태를 샘플링한다. 그런 다음 이러한 샘플링된 상태를 사용하여 생성 가중치를 조정하여 생성 모델이 데이터를 더 잘 재구성하도록 한다. 잠자는 단계에서 생성 모델을 사용하여 하향식으로 일련의 잠재 상태를 샘플링하고, 이를 사용하여 인식 가중치를 조정하여 인식 모델이 샘플을 생성한 잠재 상태를 더 잘 추론하도록 한다.
이 알고리즘은 최대 우도 학습의 근사치이다. 전역 최적점으로 수렴이 보장되지는 않지만, 계산적으로 효율적이며 많은 작업에서 실제로 잘 작동한다. 깨어있는-잠자는 알고리즘은 심층 생성 모델을 훈련하는 방법의 초기 사례였으며, 이후 변분 오토인코더 및 볼츠만 머신과 같은 후속 개발에 영향을 미쳤다.
응용 및 영향
헬름홀츠 머신의 초기 응용에는 손글씨 숫자 인식과 문서 모델링이 포함되었다. 이 머신은 레이블이 없는 데이터에서 유용한 특징을 학습할 수 있었으며, 이를 분류 또는 기타 다운스트림 작업에 사용할 수 있었다. 상향식 및 하향식 처리를 결합하여 계층적 표현을 학습하는 개념은 딥러닝의 발전에 영향을 미쳤다.
생성적 적대 신경망 및 확산 모델을 포함한 많은 현대 생성 모델은 헬름홀츠 머신에서 처음 탐구된 아이디어를 기반으로 한다. 깨어있는-잠자는 알고리즘은 또한 잠재 변수 모델에서 기대값 최대화 알고리즘의 사용을 예고했지만, 사후 분포를 근사하는 방식에서는 차이가 있다.
한계 및 후속 발전
원래 헬름홀츠 머신에는 여러 한계가 있었다. 인식 모델은 단순한 피드포워드 네트워크였으며, 이는 복잡한 사후 분포를 포착하는 능력을 제한했다. 깨어있는-잠자는 알고리즘은 또한 인식 모델을 훈련하는 데 사용되는 분포와 실제 사후 분포 사이의 불일치로 인해 차선의 해결책을 초래할 수 있었다.
후속 연구는 변분 추론 및 상각 추론과 같은 더 정교한 추론 방법을 도입하여 이러한 문제를 해결했다. 2013년 디데릭 킹마와 막스 웰링이 소개한 변분 오토인코더는 학습된 인식 모델과 우도의 하한을 최대화하여 훈련된 생성 모델을 사용하는 헬름홀츠 머신의 현대적 후손으로 볼 수 있다.