베이지안 최적화는 평가 비용이 많이 드는 블랙박스 목적 함수의 전역 최적화를 위한 순차적 모델 기반 전략이다. 이 방법은 단일 관측에 실험, 공학 계산, 수치 시뮬레이션 또는 머신러닝 실행이 필요하고, 도함수를 사용할 수 없거나 신뢰할 수 없는 경우에 흔히 사용된다. 목적 함수는 닫힌 형태의 식을 가질 필요가 없으며, 이 방법은 미지의 함수에 대한 확률적 모델을 구축하여 탐색과 활용의 균형을 맞추는 샘플링 과정을 안내한다.
이 방법은 먼저 목적 함수의 확률적 대리 모델(종종 가우시안 프로세스)을 구축한 다음, 일련의 평가 지점을 생성한다. 모델의 예측 분포는 각 후보 지점에서 기댓값과 불확실성 측도를 모두 제공한다. 샘플링 기준(획득 함수라고도 함)은 이 예측 분포로부터 계산되며, 다음 지점은 이 기준을 최적화하여 선택된다. 선택된 지점을 평가한 후, 모델은 새로운 관측값으로 갱신되고 이 과정이 반복된다. 이러한 접근 방식은 각 평가가 비용이 많이 들거나 시간이 오래 걸리는 상황에서 유용하다.
역사
베이지안 접근법을 통한 전역 최적화에 대한 초기 연구는 1960년대와 1970년대로 거슬러 올라간다. 해럴드 J. 쿠슈너(Harold J. Kushner)와 같은 연구자들은 잡음이 있는 함수의 극값을 찾는 방법을 개발했으며, 요나스 모쿠스(Jonas Mockus)는 잡음이 있는 환경에서 극값을 찾기 위한 베이지안 최적화에 기여했다. 1998년에는 도널드 R. 존스(Donald R. Jones), 마티아스 숀라우(Matthias Schonlau), 윌리엄 J. 웰치(William J. Welch)가 크리깅 모델(또는 가우시안 프로세스)과 기대 개선 기준을 결합한 효율적 전역 최적화(EGO) 알고리즘을 도입했다. 이 획기적인 연구는 해당 분야를 확립하는 데 도움을 주었고 베이지안 최적화를 더 널리 알리게 했다.
이후 수십 년 동안 이 프레임워크는 잡음이 있는 관측, 제약 조건, 배치 및 병렬 평가, 다중 목적, 혼합 또는 고차원 공간을 처리하도록 확장되었다. 이러한 확장은 더 넓은 범위의 실제 문제에 접근을 적용할 수 있게 했지만, 종종 알고리즘 복잡성이 증가하는 대가를 치렀다.
문제 설정
표준 단일 목적 문제에서 베이지안 최적화는 탐색 공간에서 목적 함수 f(x)를 최소화하는 지점을 찾는다. 일반성을 잃지 않고, 최대화 문제는 -f(x)를 최소화함으로써 재구성할 수 있다. 탐색 공간은 주로 상자 형태나 연속 영역으로 정의되지는 않지만, 표준 공식은 저차원에서 중간 차원의 연속 문제에 가장 직접적으로 적용 가능하다. 차원이 증가하면 탐색 공간이 확장되고 평가 지점이 더 희박해져 문제가 더 어려워진다.
문제는 평가가 정확한 함수 값을 반환하는 무잡음(noiseless) 경우와 관측에 오차가 포함되는 잡음(noisy) 경우로 분류할 수 있다. 실제 응용에서는 미지의 제약 조건, 병렬 평가, 다중 목적 등 추가적인 복잡성이 자주 발생한다. 각 변형은 대리 모델과 샘플링 기준이 정의되는 방식에 영향을 미친다.
기본 방법
대부분의 베이지안 최적화 구현은 표준 순차 절차를 따른다. 일반적인 실행은 초기 설계(예: 공간 채움 라틴 하이퍼큐브 또는 무작위 샘플링)로 시작하여 초기 관측 세트를 얻는다. 그런 다음 알고리즘은 이 지점들에서 목적 함수를 평가한다. 대리 모델은 이 데이터에 적합되며, 예측 추세와 예측의 불확실성을 모두 포착한다.
획득 함수(충전 기준이라고도 함)는 그 다음에 정의되며, 일반적인 선택으로는 기대 개선(EI), 상위 신뢰 경계(UCB), 개선 확률 등이 있다. 다음 지점 또는 지점 배치는 획득 함수를 최적화하여 선택되며, 이는 모델의 불확실성이 높은 영역을 탐색하는 것과 모델이 유리한 값을 예측하는 영역을 활용하는 것 사이의 균형을 맞춘다. 평가 후에는 데이터 세트가 갱신되고 과정이 반복된다.
이 루프는 중지 규칙이 충족될 때까지 계속되며, 때로는 고정된 반복 횟수나 수렴 기준에 기반한다. 베이지안 전략의 핵심 장점은 샘플 효율성으로, 가능한 한 적은 함수 평가로 좋은 해를 찾는 것을 추구한다.
확률적 모델
확률적 모델의 사양은 방법론의 핵심이다. 목적 함수의 회귀 모델은 탐색 공간 전반에 걸쳐 예측과 불확실성 추정치를 제공하는 데 필요하다. 가장 일반적인 선택이자 사실상의 표준은 가우시안 프로세스 회귀(GPR)이다. GP 사전 분포는 연속 함수를 정의하며, 여기서 임의의 지점 집합은 결합 가우시안 분포를 따른다. 관측이 연속적일 때 사후 분포는 정확히 계산된다. GPR은 유연하며 대부분의 획득 함수를 정의하는 데 필수적인 해석적 불확실성을 제공한다.
다른 모델 유형으로는 랜덤 포레스트, 신경망, 딥러닝 등이 있으며, 특히 탐색 공간이 고차원이거나 혼합 변수를 포함할 때 사용된다. 최근 개발은 딥러닝 기반 대리 모델이나 앙상블을 통합하여 다양한 비용 구조를 처리한다. 이 모델은 후보 지점을 선택할 때 비용이 많이 드는 목적 함수를 대신하기 때문에 대리 모델이라고 불린다. 불확실성 추정치의 품질은 단순한 예측보다도 획득 함수의 성능에 직접적인 영향을 미친다.
확장 및 응용
베이지안 최적화는 머신러닝의 하이퍼파라미터 최적화에서 표준 도구가 되었으며, 여기서 각 시도는 모델 훈련과 검증을 요구한다. 이러한 시도의 비용은 몇 분에서 며칠까지 다양할 수 있으며, 하이퍼파라미터의 수는 적을 수 있지만 평가는 무작위성으로 인해 잡음이 있다. 잡음이 있는 평가를 처리하기 위한 방법이 특별히 개발되었다.
공학 설계에서 목적 함수는 종종 유한 요소 해석이나 전산 유체 역학과 같은 비용이 많이 드는 수치 시뮬레이션을 포함하며, 단일 실행이 몇 시간이 걸릴 수 있다. 베이지안 최적화는 제약 조건을 존중하면서 비용을 최소화하거나 성능을 최대화하는 설계 파라미터를 찾는 데 사용된다. 이 방법은 화학, 물리학, 신약 개발 분야의 실험 설계에도 응용되며, 여기서 물리적 실험은 비용이 많이 든다.
병렬 및 배치 변형은 GPU 클러스터나 Amazon Web Services, Google Cloud와 같은 클라우드 제공업체의 현대적 컴퓨팅 능력을 활용하여 여러 지점을 동시에 평가한다. 고성능 컴퓨팅 분야에서 Nvidia와 Intel 같은 조직은 베이지안 최적화를 더 넓은 워크플로우에 통합하는 도구에 투자했다. 베이지안 최적화는 여전히 활발한 연구 분야이며 알고리즘 개선이 계속되고 있다.
강점에도 불구하고, 이 방법은 매우 고차원적인 문제에서 사용이 제한적이며 복잡하고 비정상적인 함수에서의 성능에도 한계가 있다. 그러나 이러한 한계는 현재 연구 문헌에서 활발히 다루어지고 있으며, 이러한 상황을 처리하기 위한 많은 확장이 개발되고 있다.