컨볼루션 심층 신뢰 네트워크(CDBN)는 심층 학습 모델의 한 유형으로, 컨볼루션 신경망의 계층적 특징 추출과 심층 신뢰 네트워크의 확률적 생성 학습을 통합한다. 이는 이미지, 오디오 스펙트로그램, 비디오 프레임과 같은 2차원 데이터에서 고수준 특징의 비지도 학습을 위해 설계되었다. 이 모델은 2000년대 후반에 제한된 볼츠만 머신의 확장으로 도입되어 대규모의 공간 구조 입력을 효율적으로 처리한다.
CDBN은 여러 계층의 컨볼루션 제한 볼츠만 머신(convRBM)으로 구성되며, 각 계층은 점점 더 추상적인 특징을 학습한다. 완전 연결 심층 신뢰 네트워크와 달리 CDBN은 국소 수용 영역과 공유 가중치를 사용하여 매개변수 수를 획기적으로 줄이고 고해상도 입력으로의 확장성을 가능하게 한다. 이 모델은 대조 발산을 사용하여 계층별로 훈련되며, 이후 선택적으로 지도 신호를 사용한 미세 조정이 이어진다.
구조
CDBN의 핵심 구성 요소는 컨볼루션 제한 볼츠만 머신이다. convRBM에서 가시 계층은 입력 이미지를 나타내고, 은닉 계층은 특징 맵으로 구성된다. 각 특징 맵은 커널이라고도 하는 공유 필터 가중치 집합을 통해 가시 계층에 연결된다. 일반적으로 최대 풀링인 풀링 계층은 은닉 활성화의 공간 차원을 줄여 변환 불변성과 계산 효율성을 제공한다.
CDBN은 여러 convRBM을 쌓아 올리며, 한 계층의 풀링된 출력이 다음 계층의 가시 입력으로 사용된다. 이러한 계층 구조를 통해 네트워크는 초기 계층에서 저수준의 가장자리와 질감을 학습하고, 이후 계층에서는 고수준의 객체나 부분을 학습할 수 있다. 모델의 확률적 특성은 학습된 분포에서 새로운 샘플을 생성할 수 있게 하며, 이는 표준 판별 컨볼루션 네트워크에서는 공유되지 않는 속성이다.
훈련
CDBN 훈련은 탐욕적이고 계층별 방식으로 진행된다. 각 convRBM은 최대 우도 추정을 근사하는 기법인 대조 발산을 사용하여 별도로 훈련된다. 학습 규칙은 데이터 의존 통계와 모델 의존 통계 간의 차이를 기반으로 공유 필터 가중치와 편향을 업데이트한다. 모든 계층이 사전 훈련된 후에는 분류 작업을 위해 레이블이 지정된 데이터로 역전파를 사용하여 전체 네트워크를 미세 조정할 수 있다.
CDBN 훈련의 한 가지 과제는 특히 큰 이미지에서 확률적 그래픽 모델의 추론에 드는 계산 비용이다. 이를 해결하기 위해 연구자들은 평균장 추론과 블록 깁스 샘플링과 같은 근사 기법을 사용했다. 또한 확률적 경사 하강법에서 작은 미니 배치와 모멘텀을 사용하면 훈련을 안정화하는 데 도움이 된다.
응용
CDBN은 객체 인식, 얼굴 감지, 장면 분류를 포함한 다양한 컴퓨터 비전 작업에 적용되었다. 또한 오디오 처리 및 의료 영상과 같은 분야의 비지도 특징 학습에도 사용되었다. 2010년대 초반에 CDBN은 CIFAR-10 및 NORB와 같은 벤치마크 데이터 세트에서 경쟁력 있는 결과를 달성하여 광범위한 레이블 데이터 없이 유용한 표현을 학습하는 효과를 입증했다.
최근에는 CDBN의 원리가 변분 오토인코더 및 생성적 적대 신경망과 같은 다른 생성 모델에 영향을 주었지만, 대규모 지도 훈련을 통한 종단 간 심층 학습의 부상으로 인해 CDBN 자체는 오늘날 덜 일반적으로 사용된다.
다른 모델과의 관계
CDBN은 다른 심층 구조와 개념적 유사성을 공유한다. 이는 순수하게 판별적인 표준 컨볼루션 신경망에 대한 확률적 대응물이다. 트랜스포머 기반 모델인 대규모 언어 모델과 달리 CDBN은 공간 데이터용으로 설계되었으며 어텐션 메커니즘에 의존하지 않는다. CDBN의 생성 능력은 또한 피드포워드 방식이고 작업별로 특화된 일반적인 잔차 네트워크 및 U-Net과 구별된다.
기계 학습의 더 넓은 맥락에서 CDBN은 비지도 사전 훈련과 컨볼루션 구조를 결합하려는 초기 시도를 나타내며, 이 주제는 이후 토론토 대학교 및 MIT CSAIL과 같은 기관의 심층 학습 연구에 영향을 주었다.
한계와 유산
이론적 매력에도 불구하고 CDBN은 실질적인 한계에 직면한다. 훈련은 계산 집약적이며 확률적 추론은 느릴 수 있다. 순수 지도 컨볼루션 네트워크에 비해 성능 향상은 특히 대규모 레이블 데이터 세트와 GPU 가속 훈련이 가능해지면서 종종 미미했다. 결과적으로 CDBN은 더 단순하고 확장 가능한 모델로 대체되었다.
그럼에도 불구하고 CDBN의 아이디어 - 계층적 특징 학습, 국소 연결성, 생성 모델링 - 는 여전히 영향력이 있다. 이는 신경망 및 심층 신뢰 네트워크와 같은 다른 초기 모델과 함께 현대 심층 학습의 역사적 기초의 일부이다. 연구자들은 준지도 학습 및 표현 학습을 위한 생성적 접근 방식을 계속 재검토하여 CDBN의 유산을 관련성 있게 유지하고 있다.