비용 민감 기계 학습은 기계 학습 내에서 예측 오류와 관련된 재정적, 사회적 또는 운영적 비용을 명시적으로 고려하는 접근 방식이다. 일반적으로 오류율을 최소화하는 표준 분류 방법과 달리, 비용 민감 방법은 서로 다른 유형의 실수(예: 거짓 양성 대 거짓 음성)에 서로 다른 패널티를 할당하고 총 기대 비용을 줄이도록 모델을 최적화한다. 이는 의료 진단, 사기 탐지, 신용 평가와 같이 오류의 결과가 비대칭적인 영역에서 특히 중요하다.
이 분야는 결정 이론과 통계적 학습에서 등장했으며, 1980년대와 1990년대에 Chris Bishop과 Michael Jordan과 같은 연구자들이 비용 민감 손실 함수를 공식화한 초기 연구를 수행했다. 현대 응용 분야는 딥 러닝 모델을 포함한 인공 지능 시스템에 걸쳐 있으며, 여기서 비용 민감 훈련은 손실 함수와 신경망 아키텍처에 통합될 수 있다.
비용 행렬과 비대칭 손실
핵심 개념은 실제 클래스와 예측 클래스의 각 조합에 대한 패널티를 지정하는 비용 행렬이다. 이진 분류의 경우 일반적인 행렬에는 참 양성(종종 0), 참 음성(0), 거짓 양성, 거짓 음성에 대한 비용이 포함된다. 이러한 비용이 동일하지 않으면 최적 결정 임계값은 0.5에서 이동한다. 예를 들어, 의료 검진에서 거짓 음성(질병 누락)은 거짓 양성보다 훨씬 더 비쌀 수 있으므로 모델은 양성 예측 쪽으로 편향되어야 한다.
비용 민감 학습은 가중 교차 엔트로피와 같은 손실 함수를 수정하거나 훈련 후 결정 임계값을 조정하여 구현할 수 있다. 딥 러닝에서는 이진 교차 엔트로피와 같은 일반적인 손실의 비용 민감 변형이 사용되며, 그래디언트 클리핑 및 학습률 스케줄링과 같은 기법은 비용 가중 그래디언트를 처리하도록 조정될 수 있다.
방법 및 알고리즘
비용 민감 학습에는 여러 알고리즘 전략이 존재한다. 가장 직접적인 방법은 오분류 비용에 따라 훈련 예제를 과대 샘플링하거나 과소 샘플링하는 비용 민감 재샘플링이다. 또 다른 접근 방식은 오류를 비용으로 가중화하도록 부스팅 알고리즘을 수정하는 비용 민감 부스팅이다. 신경망의 경우 비용 민감 학습은 손실 함수에 비용 항목을 통합하고 Adam 또는 SGD 변형과 같은 표준 최적화기를 사용하여 달성할 수 있다.
임계값 이동은 더 간단한 사후 처리 방법이다. 확률적 분류기를 훈련한 후 검증 세트를 사용하여 기대 비용을 최소화하도록 결정 임계값을 선택한다. 이는 모델의 확률 추정치가 잘 보정된 경우 특히 효과적이다. 실제로 많은 실무자는 강력한 성능을 달성하기 위해 재샘플링과 임계값 조정을 결합한다.
고위험 영역에서의 응용
비용 민감 학습은 오류 비용이 비대칭적인 분야에서 널리 적용된다. 의료 분야에서는 치료 비용과 환자 결과에서 파생된 비용 행렬을 사용하여 질병 탐지 모델이 누락된 진단의 비용을 최소화하도록 훈련된다. 금융 분야에서 신용 평가 모델은 나쁜 대출 승인 비용과 좋은 신청자 거부 비용을 비교한다. 사기 탐지 시스템은 더 많은 오경보를 감수하더라도 사기 거래를 잡는 것을 우선시한다.
생성형 AI 및 대규모 언어 모델에서 비용 민감 원칙은 인간 피드백 기반 강화 학습(RLHF)에 나타나며, 여기서 서로 다른 유형의 오류(예: 유해한 응답 대 도움이 되지 않는 응답)에는 서로 다른 비용이 할당된다. 마찬가지로 모델 가지치기와 데이터 증강은 중요한 클래스의 성능을 보존하기 위해 비용 고려 사항에 따라 안내될 수 있다.
평가 및 지표
정확도와 같은 전통적인 지표는 비용 민감 문제에는 충분하지 않다. 대신 실무자는 기대 비용, 비용 곡선, 비용 민감 정밀도 및 재현율과 같은 비용 기반 지표를 사용한다. 총 비용은 각 오류 수와 관련 비용의 곱을 합산하여 계산된다. 2000년대 초에 도입된 비용 곡선은 비용 비율의 함수로서 거짓 양성 및 거짓 음성 비율 간의 균형을 시각화한다.
모델을 비교할 때 비용 민감 ROC 곡선 아래 면적(AUC) 또는 비용 민감 F-측정을 사용할 수 있다. 이러한 지표는 비즈니스 또는 임상 목표에 부합하는 모델을 선택하는 데 도움이 된다. 연구에서 벤치마크는 비용 민감 접근 방식의 이점을 강조하기 위해 정확도와 비용을 모두 보고하는 경우가 많다.
과제 및 향후 방향
주요 과제는 비용 행렬을 정확하게 추정하는 것이며, 비용은 종종 도메인 특정적이고 정량화하기 어려울 수 있다. 일부 응용 분야에서 비용은 고정되어 있지 않고 상황에 따라 달라지므로 동적 비용 민감 학습이 필요하다. 또 다른 과제는 비용 민감 방법이 특히 대규모 딥 러닝 시스템에 통합될 때 모델 복잡성과 훈련 시간을 증가시킬 수 있다는 점이다.
향후 연구는 비용 정보가 주의 메커니즘에 주입될 수 있는 트랜스포머 기반 모델 및 멀티 헤드 어텐션 아키텍처에서 비용 민감 학습을 탐구한다. 또한 비용 민감 학습을 커리큘럼 학습 및 배치 정규화와 결합하여 훈련 안정성을 개선하는 데 관심이 있다. 인공 지능 시스템이 더 중요한 영역에 배포됨에 따라 비용 민감 기계 학습은 모델 동작을 실제 세계 우선순위와 정렬하는 데 필수적인 도구로 남을 것이다.