그래디언트 부스팅은 기능 공간에서의 부스팅에 기반한 머신러닝 기법으로, 기존 부스팅에서의 잔차 대신 유사 잔차를 목표로 한다. 이는 일반적으로 단순한 결정 트리와 같이 데이터에 대한 가정이 거의 없는 약한 예측 모델들의 앙상블 형태로 예측 모델을 생성한다. 결정 트리가 약한 학습기로 사용될 때, 결과 알고리즘은 그래디언트 부스티드 트리라고 불리며, 이는 일반적으로 랜덤 포레스트보다 우수한 성능을 보인다. 다른 부스팅 방법과 마찬가지로, 그래디언트 부스티드 트리 모델은 단계적으로 구축되지만, 임의의 미분 가능한 손실 함수의 최적화를 허용함으로써 다른 방법들을 일반화한다.
핵심 아이디어는 여러 약한 학습기를 순차적으로 결합하는 것으로, 각각의 새로운 학습기는 기존 앙상블의 오류를 수정한다. 이는 각각의 새 모델을 현재 예측에 대한 손실 함수의 음의 기울기에 맞추는 방식으로 달성되며, 이 개념은 기능 경사 하강법으로 알려져 있다. 이 접근 방식은 이전의 부스팅 알고리즘들을 통합하고 확장하여, 그래디언트 부스팅을 회귀 및 분류 작업 모두에 다재다능하고 강력한 도구로 만든다.
역사적 발전
그래디언트 부스팅의 기원은 레오 브레이먼이 부스팅을 적절한 비용 함수에 대한 최적화 알고리즘으로 해석할 수 있다는 관찰로 거슬러 올라간다. 명시적 회귀 그래디언트 부스팅 알고리즘은 이후 1999년 제롬 H. 프리드먼에 의해 개발되었고 2001년에 더욱 개선되었으며, 동시에 루 마슨, 조나단 백스터, 피터 바틀렛, 마커스 프린이 도입한 보다 일반적인 기능 경사 하강법 관점도 등장했다. 후자의 논문들은 부스팅 알고리즘을 반복적 기능 경사 하강법 절차로 정의했는데, 이는 음의 기울기 방향을 가리키는 함수(약한 가설)를 반복적으로 선택하여 기능 공간에서 비용 함수를 최적화하는 알고리즘이다. 이러한 기능 경사 관점은 회귀 및 분류를 넘어 머신러닝과 통계의 여러 영역에서 부스팅 알고리즘 개발로 이어졌다.
알고리즘 개요
최소 제곱 회귀 설정에서 목표는 평균 제곱 오차 \( \frac{1}{n} \sum_{i} (\hat{y}_i - y_i)^2 \)를 최소화하여 값 \( \hat{y} = F(x) \)을 예측하도록 모델 \( F \)를 학습시키는 것이다. 여기서 \( i \)는 크기 \( n \)의 훈련 세트를 인덱싱하고, \( \hat{y}_i \)는 예측 값 \( F(x_i) \)이며, \( y_i \)는 관측 값이다. 알고리즘에 \( M \) 단계가 있다면, 각 단계 \( m \) (여기서 \( 1 \leq m \leq M \))에서 불완전한 모델 \( F_m \)이 존재한다고 가정한다 (낮은 \( m \)의 경우, 이 모델은 단순히 \( y \)의 평균을 예측할 수 있다). \( F_m \)을 개선하기 위해 알고리즘은 새로운 추정기 \( h_m(x) \)를 추가하여 \( F_{m+1}(x_i) = F_m(x_i) + h_m(x_i) = y_i \)가 되도록 하거나, 동등하게 \( h_m(x_i) = y_i - F_m(x_i) \)가 되도록 한다. 그래디언트 부스팅은 \( h_m \)을 잔차 \( y_i - F_m(x_i) \)에 맞춘다.
일반적인 손실 함수의 경우, 잔차는 예측에 대한 손실 함수의 음의 기울기인 유사 잔차로 대체된다. 각 단계에서 약한 학습기(종종 결정 트리)는 이러한 유사 잔차를 예측하도록 훈련되며, 모델은 학습률로 스케일링된 학습기를 추가하여 업데이트된다. 이 반복 프로세스는 지정된 단계 수만큼 또는 수렴할 때까지 계속된다.
그래디언트 부스티드 트리
약한 학습기가 결정 트리인 경우, 알고리즘은 그래디언트 부스티드 트리라고 불린다. 결정 트리는 광범위한 전처리 없이 비선형 관계와 특징 간 상호작용을 처리할 수 있기 때문에 특히 적합하다. 실제로 그래디언트 부스티드 트리는 많은 독립적인 트리를 평균화하는 랜덤 포레스트보다 종종 우수한 성능을 보이는데, 이는 부스팅이 편향을 순차적으로 줄이는 반면 랜덤 포레스트는 주로 분산을 줄이기 때문이다. 주요 하이퍼파라미터로는 트리 수(단계), 각 트리의 최대 깊이, 학습률(수축), 확률적 그래디언트 부스팅을 위한 서브샘플링 비율이 있다.
손실 함수 및 유연성
그래디언트 부스팅의 주요 장점은 임의의 미분 가능한 손실 함수를 최적화할 수 있다는 것이다. 회귀의 경우 일반적인 손실로는 제곱 오차, 절대 오차, 후버 손실이 있다. 분류의 경우 로지스틱 손실(이항 편차)이 일반적이지만, 지수 손실이나 사용자 정의 랭킹 손실과 같은 다른 손실도 사용할 수 있다. 이러한 유연성 덕분에 그래디언트 부스팅은 생존 분석, 분위수 회귀, 랭킹 문제를 포함한 다양한 작업에 적용될 수 있다. 기능 경사 관점은 실무자가 자신의 특정 문제에 맞춘 손실을 정의할 수 있게 하며, 부스팅 알고리즘은 그에 따라 모델을 적합시킨다.
응용 및 영향
그래디언트 부스팅은 특히 표 형식 데이터에서 응용 머신러닝의 지배적인 기법이 되었다. XGBoost, LightGBM, CatBoost와 같은 구현이 최첨단 결과를 달성한 캐글과 같은 플랫폼의 대회에서 널리 사용되었다. 응용 분야는 신용 평가, 사기 탐지, 고객 이탈 예측, 의료 진단 및 기타 여러 영역에 걸쳐 있다. 그 성공은 높은 예측 정확도, 적절히 정규화될 때 과적합에 대한 견고성, 혼합 데이터 유형 처리 능력에서 비롯된다. 최근 몇 년 동안 그래디언트 부스팅은 더 넓은 Machine learning 파이프라인에 통합되고 Deep learning 방법과 비교되었지만, 구조화된 데이터의 경우 여전히 선호되는 선택으로 남아 있다.
변형 및 확장
효율성과 성능을 개선하기 위해 여러 변형이 개발되었다. 확률적 그래디언트 부스팅은 각 반복에서 훈련 데이터를 서브샘플링하여 무작위성을 도입하며, 이는 과적합을 줄이고 계산 속도를 높일 수 있다. LightGBM에서 사용하는 히스토그램 기반 방법은 연속 특징을 비닝하여 훈련을 가속화한다. XGBoost와 같은 정규화된 그래디언트 부스팅은 손실 함수에 L1 및 L2 패널티를 추가한다. 다른 확장으로는 단조 제약, 상호작용 탐지, 결측값을 기본적으로 처리하는 기능이 있다. 이러한 혁신은 그래디언트 부스팅을 대규모 데이터 세트로 확장 가능하게 만들고 프로덕션 환경에서 실용적으로 만들었다.
다른 방법과의 관계
그래디언트 부스팅은 AdaBoost 및 기타 앙상블 방법을 포함하는 더 넓은 부스팅 패밀리의 일부이다. 샘플 가중치를 조정하는 AdaBoost와 달리, 그래디언트 부스팅은 현재 앙상블의 잔차에 새 모델을 적합시킨다. 기능 경사 하강법과의 이러한 연결은 최적화 이론과 연결되며 Artificial intelligence 및 통계 분야의 연구에 영감을 주었다. Neural network 및 Transformer (architecture) 모델은 이미지와 텍스트 같은 비정형 데이터를 지배하지만, 그래디언트 부스팅은 구조화된 데이터에서 경쟁력을 유지하며 종종 이러한 설정에서 딥 모델보다 우수한 성능을 보인다. 그 해석 가능성은 특징 중요도 측정과 부분 의존성 플롯으로 향상될 수 있어 예측과 이해 모두에 귀중한 도구가 된다.
한계 및 고려 사항
강점에도 불구하고 그래디언트 부스팅에는 한계가 있다. 특히 많은 트리와 대규모 데이터 세트에서 훈련은 계산 집약적일 수 있지만, 현대 구현은 이를 완화한다. 또한 노이즈가 많은 데이터에 민감하며, 단계 수가 너무 많거나 트리가 너무 깊으면 과적합될 수 있다. 하이퍼파라미터와 정규화의 적절한 튜닝이 필수적이다. 또한 그래디언트 부스팅 모델은 단일 결정 트리보다 해석 가능성이 낮지만, SHAP 값과 같은 기법이 통찰력을 제공할 수 있다. 2020년대 초반 현재, 확장성, 견고성 및 다른 학습 패러다임과의 통합 개선에 관한 연구가 계속되고 있다.
결론
그래디언트 부스팅은 기능 경사 하강법을 통해 임의의 손실 함수를 최적화하기 위한 원리 있는 프레임워크를 제공함으로써 앙상블 학습의 중요한 발전을 나타낸다. 브레이먼, 프리드먼, 마슨 등의 연구에 뿌리를 둔 그 발전은 산업과 연구에서 널리 배포되는 강력한 알고리즘으로 이어졌다. 약한 학습기를 강한 모델로 결합함으로써 그래디언트 부스팅은 높은 정확도와 유연성을 달성하여 현대 머신러닝의 초석으로서의 위치를 공고히 한다.