대조적 헤비안 학습(CHL)은 신경망을 위한 학습 규칙으로, 두 개의 별개 단계(자유 실행 단계와 고정 단계)에서 네트워크 활동을 비교하여 시냅스 가중치를 업데이트한다. 명시적 오류 신호를 사용하는 별도의 순방향 및 역방향 전달을 요구하는 표준 오류 역전파와 달리, CHL은 두 단계에서 뉴런 활성화 간의 상관관계 차이를 사용하는 국소적이고 헤비안 방식의 업데이트에 의존한다. 이는 CHL을 뇌에서 생물학적으로 그럴듯한 학습의 후보로 만들고, 볼츠만 머신 및 그 변형과 같은 에너지 기반 모델의 기초 알고리즘으로 만든다.
이 규칙은 1980년대와 1990년대에 개발되었으며, 이전에 역전파를 공식화한 폴 워보스와 볼츠만 머신 맥락에서 대조 학습을 탐구한 제프리 힌턴을 포함한 연구자들의 중요한 기여가 있었다. 핵심 아이디어는 네트워크가 먼저 입력을 반영하는 상태(자유 단계)로 수렴한 다음, 목표 출력에 고정되고(고정 단계), 마지막으로 이 두 상태 간의 불일치를 줄이기 위해 가중치를 조정함으로써 학습할 수 있다는 것이다. 이 과정은 에너지 함수를 최소화하여 네트워크를 고정 상태가 저에너지 끌개인 구성으로 유도한다.
메커니즘 및 수학적 공식화
일반적인 CHL 구현에서 네트워크는 순환 또는 순방향 구조로, 가시 유닛(입력 및 출력)과 은닉 유닛을 가진다. 자유 단계 동안 네트워크는 입력을 받고, 활성화는 종종 반복적 수렴을 통해 안정 상태에 도달할 때까지 네트워크를 통해 전파된다. 고정 단계에서 출력 유닛은 원하는 목표 값으로 고정되고, 네트워크는 다시 새로운 평형 상태로 수렴한다. 각 연결에 대한 가중치 업데이트는 고정 단계의 활성화 곱과 자유 단계의 곱 간의 차이에 학습률을 곱한 값으로 주어진다.
수학적으로, 유닛 \(i\)를 유닛 \(j\)에 연결하는 가중치 \(w_{ij}\)에 대해 업데이트는 \(\Delta w_{ij} = \eta (x_i^+ x_j^+ - x_i^- x_j^-)\)이며, 여기서 \(x^+\)는 고정 단계의 활성화, \(x^-\)는 자유 단계의 활성화, \(\eta\)는 학습률을 나타낸다. 이 규칙은 대조 발산의 한 형태로, 이 개념은 2002년 힌턴이 제한된 볼츠만 머신 훈련을 위해 공식화했다. 업데이트는 시냅스 전후 뉴런에서 사용 가능한 정보만 요구한다는 점에서 국소적이며, "함께 발화하는 뉴런이 함께 연결된다"는 헤브의 가정과 일치하지만, 가중치의 무한한 성장을 방지하는 중요한 뺄셈이 포함된다.
역전파와의 관계
CHL은 현대 딥러닝을 지배하는 역전파 알고리즘과 자주 대조된다. 역전파는 연쇄 법칙을 사용하여 손실 함수의 정확한 기울기를 계산하며, 네트워크를 통해 역방향으로 전파되는 전역 오류 신호를 요구한다. 이는 계산적으로 효율적이지만, 정밀하고 동기화된 신호 전달과 가중치 전송을 요구하므로 생물학적으로 그럴듯하지 않다. 반면 CHL은 국소 정보만 사용하며 연속 시간 동적 시스템에서 구현될 수 있어 피질 학습의 모델로서 더 그럴듯하다.
경험적 연구는 CHL이 특정 구조, 특히 대칭 가중치를 가진 순방향 네트워크에서 역전파를 근사할 수 있음을 보여주었다. 작은 학습률과 충분한 수렴 시간의 한계에서 CHL 업데이트는 제곱 오차 손실의 기울기를 근사한다. 그러나 CHL은 일반적으로 수렴 속도가 느리고 매우 깊은 네트워크로 확장하기 어려워, 대규모 언어 모델이나 트랜스포머와 같은 실제 응용에서 역전파를 대체하지 못했다.
응용 및 변형
CHL은 연상 메모리, 패턴 완성, 지도 분류를 포함한 다양한 문제에 적용되었다. 이는 1980년대에 영향력이 있었지만 계산 비용으로 인해 인기를 잃은 확률적 순환 네트워크인 볼츠만 머신의 기반 학습 규칙이다. 평균장 대조적 헤비안 학습 규칙과 같은 변형은 결정론적 네트워크를 처리하기 위해 개발되었으며, 이 아이디어는 적분-발화 뉴런 네트워크를 훈련하는 데 사용되는 스파이킹 신경망으로 확장되었다.
2010년대와 2020년대에는 역전파에 대한 생물학적으로 그럴듯한 대안을 찾는 과정에서 CHL에 대한 관심이 부활했다. MIT CSAIL 및 스탠포드 AI 연구소와 같은 기관의 연구자들은 전역 오류 신호 없이 깊은 네트워크를 훈련하기 위해 CHL과 국소 학습 규칙을 결합한 하이브리드 접근 방식을 탐구했다. 이러한 노력은 피질 학습을 이해하고 에너지 효율적인 뉴로모픽 하드웨어를 구축하려는 목표에서 비롯된다.
한계 및 과제
CHL의 주요 한계는 계산 비용이다. 수렴 과정은 평형에 도달하기 위해 여러 반복을 요구하며, 두 단계 절차는 단일 순방향 전달에 비해 추론 시간을 두 배로 늘린다. 대규모 네트워크의 경우 이는 금지적인 요소가 된다. 또한 CHL은 수렴 역학과 학습률 선택에 민감하며, 잘못된 선택은 진동이나 느린 수렴을 초래할 수 있다. 에너지 함수가 잘 정의되기 위해 필요한 대칭 가중치 요구 사항은 대부분의 생물학적 회로에서 성립하지 않는 또 다른 제약이다.
또 다른 과제는 CHL이 추가 근사 없이 비미분 가능한 활성화나 확률적 유닛을 자연스럽게 처리하지 못한다는 점이다. 대조 발산은 제한된 볼츠만 머신에 대한 실용적인 근사를 제공하지만, 실제 기울기로 수렴한다는 보장은 없으며 더 깊은 구조에서 성능이 저하된다. 이러한 문제는 역전파가 표준으로 남아 있는 주류 머신러닝에서 CHL의 채택을 제한했다.
유산 및 현재 연구
한계에도 불구하고 CHL은 분야에 지속적인 영향을 남겼다. 이는 에너지 기반 모델의 이론적 기초를 제공했으며, 대조 예측 코딩 및 SimCLR와 같은 비지도 학습의 대조 방법 개발에 영향을 주었다. 자유 상태와 고정 상태를 비교하는 개념은 2017년 Scellier와 Bengio가 도입한 평형 전파와 같은 현대 기법의 기초가 되기도 하며, 이는 순환 네트워크에서 기울기를 근사하기 위해 유사한 두 단계 접근 방식을 사용한다.
CHL에 대한 현재 연구는 이를 더 확장 가능하고 견고하게 만드는 데 초점을 맞추고 있다. 예를 들어, 최근 작업은 하드웨어 제약으로 인해 국소 학습 규칙이 필수적인 엣지 컴퓨팅을 위한 스파이킹 신경망에서 CHL을 사용하는 것을 탐구했다. 다른 노력은 일반화를 개선하기 위해 CHL을 드롭아웃 및 배치 정규화와 결합하는 것을 조사한다. 단기적으로 역전파를 대체할 가능성은 낮지만, CHL은 신경과학과 인공지능의 교차점에 관심이 있는 사람들에게 여전히 활발한 연구 분야로 남아 있다.