딥 앙상블(Deep Ensembles)은 기계 학습에서 여러 신경망이 동일한 작업에 대해 독립적으로 훈련되고, 그 예측이 일반적으로 평균화를 통해 결합되어 최종 출력을 생성하는 기법이다. 이 접근 방식은 통계학과 기계 학습에서 여러 학습 알고리즘을 사용하여 단일 구성 알고리즘으로 얻을 수 있는 것보다 더 나은 예측 성능을 얻는 앙상블 학습의 원리를 활용한다. 통계 역학의 통계적 앙상블(보통 무한함)과 달리, 기계 학습 앙상블은 구체적이고 유한한 대체 모델 집합으로 구성되지만, 일반적으로 그 대안들 사이에 훨씬 더 유연한 구조가 존재할 수 있도록 허용한다. 딥 앙상블은 딥 러닝에서 예측 정확도와 불확실성 추정의 보정(calibration)을 개선하는 표준 방법이 되었으며, 실제로 더 복잡한 베이지안 접근법을 능가하는 경우가 많다.
핵심 아이디어는 서로 다른 무작위 초기화와 데이터 셔플링으로 여러 모델을 훈련함으로써 앙상블이 다양한 가설 집합을 포착한다는 것이다. 평균화될 때 이러한 가설들은 개별 오류를 상쇄하는 경향이 있어 더 견고하고 정확한 예측을 이끌어낸다. 이 기법은 자율 주행, 의료 진단, 금융 예측과 같이 신뢰할 수 있는 불확실성 정량화가 필수적인 안전이 중요한 응용 분야에서 특히 가치가 있다. 딥 앙상블은 강화 학습, 자연어 처리, 컴퓨터 비전에서도 널리 사용되며, 종종 더 정교한 불확실성 방법의 기준선(baseline) 역할을 한다.
역사적 배경
앙상블 학습의 개념은 1990년대에 개발된 배깅(bagging, bootstrap aggregating)과 부스팅(boosting)과 같은 방법과 함께 고전적인 기계 학습에 뿌리를 두고 있다. 1996년 레오 브레이먼(Leo Breiman)이 도입한 배깅은 훈련 데이터에서 무작위 표본을 생성하고 각 표본에 동일한 모델을 적합시켜 동질적인 병렬 앙상블을 형성함으로써 다양성을 창출한다. 같은 시기에 개발된 부스팅은 이전 모델의 오류에 가중치를 부여한 값에 대해 기본 모델을 순차적으로 훈련시켜 가산 모델을 생성한다. 이러한 기법들은 주로 의사 결정 트리에 적용되어 오늘날에도 널리 사용되는 랜덤 포레스트와 그래디언트 부스팅 트리로 이어졌다.
딥 앙상블은 2010년대 딥 러닝의 부상과 함께 구체적으로 등장했다. 중요한 이정표는 딥마인드(DeepMind)의 발라지 락슈미나라야난(Balaji Lakshminarayanan), 알렉산더 프리첼(Alexander Pritzel), 찰스 블런델(Charles Blundell)이 2017년에 발표한 "Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles" 논문이었다. 이 연구는 음의 로그 우도(negative log-likelihood)와 같은 적절한 채점 규칙(proper scoring rule)으로 신경망 앙상블을 훈련하면 베이지안 신경망과 견줄 만하거나 이를 능가하는 잘 보정된 불확실성 추정치를 얻을 수 있지만 구현은 훨씬 더 간단하다는 것을 입증했다. 그 이후로 딥 앙상블은 대규모 언어 모델 및 기타 생성형 AI 시스템을 포함한 산업 전반에 걸쳐 채택되었다.
딥 앙상블의 작동 방식
일반적인 딥 앙상블에서는 여러 신경망이 동일한 데이터 세트에 대해 독립적으로 훈련된다. 각 신경망은 동일한 아키텍처를 가지지만 서로 다른 무작위 가중치로 초기화되고 서로 다른 데이터 순서(예: 미니 배치의 다른 셔플링)로 훈련된다. 이러한 무작위성은 모델이 서로 다른 지역 최적점(local optima)으로 수렴하여 다양성을 제공하도록 보장한다. 추론 중에는 모든 모델의 예측이 평균화되는데, 분류의 경우 출력 확률의 평균을, 회귀의 경우 예측 값의 평균을 취한다.
불확실성 추정은 주요 장점이다. 앙상블 예측 간의 분산은 데이터의 고유한 노이즈인 알레아토릭(aleatoric) 구성 요소와 모델 불확실성인 인식론적(epistemic) 구성 요소로 분해될 수 있다. 각 모델이 평균과 분산(회귀의 경우)을 출력하도록 훈련하거나 소프트맥스 확률의 분포(분류의 경우)를 사용함으로써 앙상블은 신뢰도 측정을 제공할 수 있다. 분류의 경우 소프트맥스 출력의 평균은 보정된 확률을 제공하고, 모델 간의 불일치는 인식론적 불확실성을 나타낸다.
앙상블을 훈련하려면 각 구성원을 별도로 훈련해야 하므로 단일 모델을 훈련하는 것보다 더 많은 계산이 필요하다. 그러나 여러 GPU에서 훈련을 병렬화하거나 단일 훈련 실행에서 여러 모델을 서로 다른 에포크에서 포착하는 스냅샷 앙상블과 같은 기법을 사용하여 계산 비용을 완화할 수 있다. 추가 비용에도 불구하고 정확도와 불확실성의 개선은 오류 비용이 높은 응용 분야에서 종종 그 비용을 정당화한다.
이론적 기초
앙상블 이론은 모델 결합이 작동하는 이유에 대한 근거를 제공한다. 경험적으로 앙상블은 모델 간에 상당한 다양성이 있을 때 더 나은 결과를 내는 경향이 있다. 따라서 많은 방법이 데이터나 특징의 무작위 하위 집합을 사용하는 것과 같은 다양성 촉진을 추구한다. 기하학적 프레임워크는 공식적인 관점을 제공한다: 전체 데이터 세트에 대한 각 모델의 출력은 다차원 공간의 한 점으로 볼 수 있으며, 목표는 이상적인 점으로 간주된다. 유클리드 거리는 단일 모델의 성능(이상점까지의 거리)과 모델 간의 비유사성(점 사이의 거리)을 모두 측정한다. 이 프레임워크 내에서 모든 기본 모델의 출력을 평균화하면 개별 모델의 평균보다 동일하거나 더 나은 결과를 얻을 수 있음이 증명될 수 있다. 또한 최적 가중치를 사용하면 가중 평균이 개별 모델보다 더 나은 성능을 발휘할 수 있다.
또 다른 이론적 결과는 "앙상블 구성의 수확 체감 법칙"으로, 앙상블에 대한 이상적인 구성 분류기 수가 존재함을 시사한다. 이 수보다 많거나 적으면 정확도가 저하될 수 있으며, 클래스 레이블 수와 동일한 수의 독립 구성 요소를 사용하면 가장 높은 정확도를 얻을 수 있다. 이 발견은 딥 앙상블 설계에 영향을 미치지만, 실제로는 5~10개 모델의 앙상블이 일반적이고 종종 충분하다.
다른 불확실성 방법과의 비교
딥 앙상블은 종종 가중치에 대한 분포를 두어 불확실성을 포착하는 베이지안 신경망(BNN)과 비교된다. BNN은 이론적으로 우아하지만 계산 비용이 많이 들고 확장이 어렵다. 딥 앙상블은 실제로 더 잘 보정된 불확실성 추정치를 제공하는 경우가 많은 더 간단한 대안을 제공한다. 또한 추론 시 드롭아웃을 사용하여 베이지안 추론을 근사하는 몬테카를로 드롭아웃과도 비교적 유리하다. MC 드롭아웃은 더 저렴하지만 불확실성을 과소평가하는 경향이 있다. 딥 앙상블은 Machine learning 및 Deep learning의 모델 평균화와 같은 기법과도 관련이 있지만, 특히 불확실성 정량화를 강조한다.
Large language model의 맥락에서 딥 앙상블은 여러 모델을 훈련하고 출력을 집계하여 사실적 정확도를 개선하고 환각(hallucination)을 줄이는 데 사용되었다. 그러나 여러 대규모 모델을 훈련하는 계산 비용은 엄청나므로 연구자들은 여러 출력을 샘플링하고 가장 일관된 것을 선택하는 것과 같은 디코딩 수준의 앙상블 유사 기법을 자주 사용한다.
응용 분야 및 사용 사례
딥 앙상블은 불확실성이 중요한 영역에서 널리 사용된다. 자율 주행에서 Waymo 및 Tesla과 같은 기업은 앙상블을 사용하여 인식과 의사 결정을 개선하고, 시스템이 행동하기 전에 확신을 갖도록 보장한다. 의료 영상에서 앙상블은 MIT CSAIL 및 Stanford AI Lab과 같은 기관의 연구에서 볼 수 있듯이 더 높은 신뢰도로 이상을 감지하는 데 도움이 된다. 강화 학습에서 앙상블은 가치 함수와 정책을 추정하여 샘플 효율성과 견고성을 개선하는 데 사용된다.
산업계에서 OpenAI와 Google DeepMind는 모델 평가와 안전을 위해 앙상블 방법을 탐구했다. 예를 들어, 앙상블은 실제 세계에 모델을 배포하는 데 중요한 분포 외 입력(out-of-distribution)을 감지하는 데 사용될 수 있다. 금융 기관은 오탐(false positive) 비용이 높은 위험 평가와 사기 탐지에 앙상블을 사용한다. 또한 앙상블은 Generative AI 시스템의 핵심 구성 요소로, 훈련을 안정화하고 출력 품질을 개선하는 데 도움이 된다.
실용적 고려 사항 및 한계
딥 앙상블을 구현하려면 여러 요소에 세심한 주의가 필요하다. 앙상블 크기 선택은 중요하다. 모델이 너무 적으면 충분한 다양성을 제공하지 못할 수 있고, 너무 많으면 큰 성과 없이 계산 비용이 증가한다. 훈련 절차는 다양성을 보장해야 하며, 일반적으로 무작위 초기화와 데이터 셔플링을 통해 달성되지만 다른 아키텍처나 데이터 하위 집합을 사용하여 강화할 수도 있다. 집계 방법도 중요하다. 단순 평균이 일반적이지만, 모델의 강점이 다양한 경우 가중 평균이나 스태킹(stacking)이 더 나은 결과를 얻을 수 있다.
한 가지 한계는 메모리와 계산 오버헤드로, 대규모 모델의 경우 상당할 수 있다. 이를 해결하기 위해 모델 가지치기(pruning)와 증류(distillation)와 같은 기법이 앙상블을 단일 모델로 압축할 수 있지만, 이는 일부 불확실성 품질을 희생할 수 있다. 또 다른 과제는 딥 앙상블이 모든 형태의 불확실성을 포착하지 못한다는 점이다. 주로 인식론적 불확실성에 효과적이며, 알레아토릭 불확실성은 별도로 모델링해야 한다. 이러한 한계에도 불구하고 딥 앙상블은 많은 응용 분야에서 견고하고 실용적인 선택으로 남아 있다.
향후 방향
연구는 딥 앙상블의 효율성과 효과를 개선하기 위해 계속되고 있다. 한 방향은 모델이 하위 레이어를 공유하여 계산 비용을 줄이면서 상위 레이어의 다양성을 유지하는 "공유 표현을 가진 딥 앙상블"의 개발이다. 또 다른 방향은 하이퍼네트워크(hypernetwork)를 사용하여 앙상블 구성원을 효율적으로 생성하는 것이다. 대규모 모델 시대에는 단일 모델이 앙상블의 예측 분포를 모방하도록 훈련되어 앙상블 비용 없이 추론 시 불확실성 추정치를 제공하는 "앙상블 증류"에 대한 관심이 있다.
AI 시스템이 중요한 의사 결정에 더욱 통합됨에 따라 신뢰할 수 있는 불확실성 정량화의 필요성이 커지고 있다. 단순성과 강력한 경험적 성능을 갖춘 딥 앙상블은 핵심 기법으로 남을 가능성이 높다. 또한 Batch Normalization 및 Dropout과 같은 다른 방법과 결합되어 견고성을 더욱 개선하고 있다. PyTorch 및 TensorFlow와 같은 프레임워크를 포함한 오픈 소스 커뮤니티는 앙상블 구현을 위한 도구를 제공하여 이 기법을 다양한 실무자에게 접근 가능하게 만든다.
같이 보기
- 기계 학습
- 딥 러닝
- 신경망
- 불확실성 정량화 (가능한 경우)
- 배깅 (가능한 경우)
- 부스팅 (가능한 경우)
- 모델 평균화 (가능한 경우)
- 베이지안 신경망 (가능한 경우)
- 몬테카를로 드롭아웃 (가능한 경우)
참고 문헌
- Lakshminarayanan, B., Pritzel, A., & Blundell, C. (2017). Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles. NeurIPS.
- Breiman, L. (1996). Bagging predictors. Machine Learning.
- Freund, Y., & Schapire, R. (1997). A decision-theoretic generalization of on-line learning and an application to boosting. JCSS.
- Zhou, Z.-H. (2012). Ensemble Methods: Foundations and Algorithms. Chapman & Hall/CRC.