지도 학습(supervised learning)은 머신 러닝의 한 범주로, 각 입력이 알려진 정답(또는 레이블)과 짝을 이루는 예시들로 구성된 데이터셋을 통해 모델을 훈련시키는 방식이다. 모델의 목표는 입력에서 출력으로의 일반적인 매핑을 학습하여, 이전에 본 적 없는 새로운 예시에도 적용할 수 있도록 하는 것이다. "지도(supervised)"라는 용어는 일반적으로 인간 주석자(annotator)나 과거 기록을 통해 만들어진 레이블된 정답 키가, 각 훈련 예시에 대해 모델이 내놓아야 할 올바른 출력이 무엇인지 알려줌으로써 학습 과정을 안내한다는 사실에서 유래한다.
주요 작업
지도 학습 문제는 크게 두 가지 범주로 나뉜다. 분류(classification) 작업은 이메일이 스팸인지 아닌지, 이미지에 어떤 객체가 나타나는지, 리뷰가 어떤 감정을 담고 있는지와 같은 이산적인 범주를 예측한다. 회귀(regression) 작업은 주택 가격이나 기온 예보와 같은 연속적인 수치 값을 예측한다. 두 경우 모두 훈련 방식은 동일하다. 모델이 예측을 하고, 손실 함수가 그 예측이 실제 레이블과 얼마나 다른지를 측정하며, 경사 하강법이 그 오차를 줄이는 방향으로 모델의 매개변수를 조정한다. 신경망의 경우 이러한 조정은 역전파를 통해 계산된다. 이 과정은 많은 예시와 여러 번의 데이터 반복(에폭)을 통해 반복된다.
역사
지도 학습은 딥러닝보다 수십 년 앞선 개념으로, 선형 회귀, 로지스틱 회귀, 결정 트리, 서포트 벡터 머신과 같은 고전적인 알고리즘을 포함한다. 이러한 알고리즘들 중 상당수는 블라디미르 바프니크(Vladimir Vapnik)에 의해 크게 발전되고 체계화되었다. k-최근접 이웃(k-nearest neighbors) 기법도 이 시기에 확립되었다. 이 기법은 대규모 레이블 데이터셋과 저렴한 계산 자원이 널리 이용 가능해지면서 비약적인 발전을 이루었다. 특히 2012년 ImageNet 대회에서 AlexNet이 기존의 수작업 기반 접근법을 압도적으로 능가한 사건은 지도 학습 기반 딥러닝이 확장 가능함을 입증하며 이후 딥러닝 부흥의 도화선이 되었다.
데이터와 레이블링
지도 학습의 핵심적인 병목은 레이블된 데이터의 필요성이다. 레이블링은 일반적으로 인간 주석자가 대량의 예시를 분류하거나 전사하거나 표시해야 하므로 비용과 시간이 많이 소요된다. 이러한 제약은 레이블 없이도 학습할 수 있는 패러다임에 대한 연구를 촉발했다. 비지도 학습은 레이블이 없는 데이터에서 구조를 발견하고, 자기 지도 학습은 데이터 자체에서 훈련 신호를 생성한다. 이러한 접근법은 현대 대규모 언어 모델의 사전 훈련을 가능하게 한 기반이 되었다. 그럼에도 불구하고 지도 학습은 여전히 현대 AI 파이프라인의 다른 단계, 특히 사전 훈련된 모델을 특정 작업에 맞게 조정하는 미세 조정 과정에서 필수적인 역할을 한다. 이 과정은 기본 언어 모델을 지시를 따르는 어시스턴트로 변환하는 데 사용된다.
평가
지도 학습 모델의 성능은 일반적으로 훈련에 사용되지 않은 별도의 테스트 세트(held-out test set)에서 측정된다. 이는 모델이 훈련 데이터를 단순히 암기하는 것(과적합, Overfitting)이 아니라 새로운 데이터에 일반화하는 능력을 평가하기 위함이다. 분류 작업에서는 정확도(accuracy), 정밀도(precision), 재현율(recall), F1 점수(F1 score)와 같은 지표가 사용되며, 회귀 작업에서는 평균 제곱 오차(mean squared error)가 흔히 사용된다. 적절한 평가 지표의 선택은 작업의 특성과 오류 유형 간의 상대적 비용(예: 의료 진단에서 위양성 대 위음성)에 따라 달라진다.
중요성과 한계
지도 학습은 수십 년간 스팸 필터, 신용 점수, 의료 영상 진단, 음성 인식 등 배포된 머신 러닝 시스템의 대부분을 뒷받침해 온 지배적인 패러다임이다. 그러나 그 핵심적인 한계는 레이블된 훈련 데이터의 품질과 범위에 대한 엄격한 의존성이다. 모델은 자신이 학습한 레이블만큼만 좋을 수 있다. 훈련 데이터에 인간의 역사적 편견이 반영되어 있거나 실제 세계 시나리오의 다양성을 충분히 포괄하지 못한다면, 모델은 그러한 편향을 학습하고 증폭시킬 수 있다. 이러한 문제는 알고리즘 편향에 대한 연구의 핵심 주제이다. 비지도 및 자기 지도 학습이 성숙해짐에 따라, 지도 학습은 점차 전체 훈련 과정을 대체하기보다는 현대 AI 시스템 구축의 한 단계로 통합되는 추세이다.