자기지도 학습은 모델이 인간이 제공한 레이블이 없는 데이터로부터 데이터 구조 자체에서 직접 감독 신호를 구성하여 학습하는 훈련 방식이다. 지도 학습에서처럼 각 입력에 대한 올바른 출력을 알려주는 대신, 모델은 데이터의 나머지 부분에서 숨겨지거나 누락된 부분을 예측하는 것과 같은 과제를 부여받으며, 해당 과제의 '레이블'은 단순히 숨겨졌던 실제 값으로, 이는 추가 주석 비용 없이 원시 비레이블 데이터에 이미 존재한다.
핵심 아이디어와 목표
전형적인 예는 다음 토큰 예측이다. 마지막 단어가 제거된 텍스트 시퀀스가 주어지면 모델은 그 단어를 예측하도록 훈련되며, 일반 텍스트에는 이미 다음 단어가 포함되어 있으므로 인간이 레이블을 지정할 필요가 전혀 없다. 이는 정확히 사전 훈련에 사용되는 목표로, Common Crawl과 같은 출처에서 수집된 방대한 양의 원시 텍스트에서 시퀀스의 다음 토큰을 반복적으로 예측함으로써 현대 대규모 언어 모델을 훈련시킨다. 관련 목표인 마스크 토큰 예측은 시퀀스 내의 무작위 토큰 하위 집합을 숨기고 주변 맥락에서 이를 다시 채우도록 모델을 훈련시키며, 이는 BERT의 사전 훈련 목표였다. 컴퓨터 비전 및 다중 모달 학습에서 자기지도 목표에는 이미지의 마스킹된 영역을 예측하는 것과, CLIP이 사용하는 대조 목표가 포함되며, 이는 어떤 이미지-텍스트 쌍(또는 동일한 이미지의 두 증강 뷰)이 서로 일치하는지 불일치하는지를 인식하도록 모델을 훈련시킨다.
지도 학습 및 비지도 학습과의 관계
자기지도 학습은 개념적으로 지도 학습과 비지도 학습 사이에 위치한다. 비지도 학습처럼 비레이블 데이터로 작업하지만, 명확한 정답이 있는 명시적 예측 과제를 정의하며, 일반적인 지도 훈련에서 사용되는 것과 동일한 손실 함수, 경사 하강법, 역전파 메커니즘으로 최적화된다. 일부 연구자는 이를 비지도 학습의 하위 유형으로 취급하고, 다른 연구자는 훈련 메커니즘이 지도 학습과 매우 유사하여 레이블의 출처만 다를 뿐이므로 별도의 범주로 취급한다.
중요성
자기지도 학습은 지도 학습을 제한했던 근본적인 병목 현상, 즉 인간이 레이블을 지정한 데이터의 부족과 비용을 해결했다. 인터넷과 기타 대규모 말뭉치에는 이미 방대한 양의 비레이블 텍스트, 이미지, 오디오, 비디오가 포함되어 있기 때문에, 자기지도 목표는 레이블 데이터셋이 결코 따라잡을 수 없는 규모로 모델을 훈련시킬 수 있게 했으며, 이는 현대 기반 모델 시대의 스케일링을 직접적으로 가능하게 한 변화였다. 이는 전이 학습이 언어에 대해 매우 효과적이게 된 메커니즘으로, 광범위한 텍스트에 대한 자기지도 목표로 사전 훈련된 모델은 비교적 적은 작업별 미세 조정으로 다양한 하위 작업에 잘 전이될 수 있는 일반적인 표현을 학습한다.
주목할 만한 이정표와 영향
Word2vec의 2013년 단어 예측 목표는 언어에 적용된 자기지도 학습의 초기 영향력 있는 예이지만, 당시에는 이 용어가 널리 사용되지 않았다. 이 접근 방식은 2018년 BERT와 GPT 시리즈 이후 이 분야의 용어와 전략의 중심이 되었으며, 2020년대 초반에는 자기지도 사전 훈련 후 지도 또는 선호 기반 미세 조정이 사실상 모든 주요 대규모 언어 모델의 표준 방식이 되었다. 동일한 패러다임은 텍스트를 넘어 확장되었다. 미래 프레임을 예측하는 자기지도 비디오 모델은 로봇 공학 및 자율 시스템을 위한 세계 모델 연구의 기초 구성 요소이다. 자기지도 학습의 핵심 한계는 결과 표현의 품질이 여전히 기본 비레이블 데이터의 품질, 규모, 다양성에 의존하며, 해당 데이터에 존재하는 편향이나 공백이 지도 훈련에서와 마찬가지로 모델에 흡수된다는 점이다.