제로샷 분류는 기계 학습에서의 문제 설정으로, 테스트 시점에 학습자가 훈련 중에 관찰되지 않은 클래스의 샘플을 관찰하고 해당 클래스를 예측해야 하는 상황을 말한다. 이 이름은 컴퓨터 비전에서 단 하나의 예제만으로 분류를 학습할 수 있었던 원샷 학습이라는 이전 개념에 기반한 말장난이다. 제로샷 방법은 일반적으로 객체의 관찰 가능한 구별 속성을 인코딩하는 보조 정보를 통해 관찰된 클래스와 관찰되지 않은 클래스를 연관시킴으로써 작동한다. 예를 들어, 분류할 동물 이미지 세트와 동물의 생김새에 대한 보조 텍스트 설명이 주어졌을 때, 말을 인식하도록 훈련된 모델은 얼룩말을 본 적이 없더라도 얼룩말이 줄무늬 말처럼 생겼다는 것을 알면 얼룩말을 인식할 수 있다. 이 문제는 컴퓨터 비전, 자연어 처리 및 기계 지각 분야에서 널리 연구되고 있다.
배경 및 역사
자연어 처리에서 제로샷 학습에 관한 첫 논문은 2008년 AAAI'08에서 Chang, Ratinov, Roth, Srikumar가 발표했지만, 그 학습 패러다임에 붙여진 이름은 데이터 없는 분류였다. 컴퓨터 비전에서 제로샷 학습에 관한 첫 논문은 같은 학회에서 제로 데이터 학습이라는 이름으로 등장했다. 제로샷 학습이라는 용어 자체는 2009년 NIPS'09에서 Palatucci, Hinton, Pomerleau, Mitchell이 발표한 논문에서 문헌에 처음 등장했다. 이 용어는 이후 다른 컴퓨터 비전 논문에서 반복되었고, 수년 전 컴퓨터 비전에서 도입된 원샷 학습에서 파생된 제로샷 학습이라는 용어가 널리 채택되었다.
컴퓨터 비전에서 제로샷 학습 모델은 본 클래스에 대한 매개변수와 해당 클래스 표현을 함께 학습하고, 클래스 레이블 간의 표현 유사성에 의존하여 추론 중에 인스턴스를 새 클래스로 분류할 수 있게 한다. 자연어 처리에서 개발된 핵심 기술 방향은 "레이블을 이해하는" 능력, 즉 레이블을 분류 대상 문서와 동일한 의미 공간에 표현하는 것에 기반을 둔다. 이는 주석이 달린 데이터를 전혀 관찰하지 않고 단일 예제를 분류하는 것을 지원하며, 이는 제로샷 분류의 가장 순수한 형태이다. 원래 논문은 명시적 의미 분석(ESA) 표현을 사용했지만, 이후 논문에서는 밀집 표현을 포함한 다른 표현을 사용했다. 이 접근 방식은 다국어 영역, 세밀한 엔터티 유형 분류 및 기타 문제로도 확장되었다. 또한 표현에만 의존하는 것을 넘어, 계산적 접근 방식은 텍스트 함의 및 질문 응답과 같은 다른 작업에서의 전이에 의존하도록 확장되었다.
원래 논문은 또한 단일 예제를 분류하는 능력 외에도, 예제 모음이 주어지고 동일한 분포에서 나온다는 가정 하에 준지도 학습 방식(또는 전이 학습)으로 성능을 부트스트랩할 수 있다고 지적한다. 기계 학습의 표준 일반화가 분류기가 훈련 중에 이미 관찰한 클래스에 대해 새 샘플을 올바르게 분류할 것으로 기대하는 것과 달리, 제로샷 분류에서는 분류기 훈련 중에 해당 클래스의 샘플이 전혀 주어지지 않는다. 따라서 이는 도메인 적응의 극단적인 사례로 볼 수 있다.
제로샷 클래스에 대한 사전 정보
당연히, 이러한 제로샷 클래스에 대해 어떤 형태의 보조 정보가 주어져야 하며, 이러한 정보 유형은 여러 가지가 있을 수 있다.
속성 학습: 클래스에는 미리 정의된 구조화된 설명이 수반된다. 예를 들어, 새 설명의 경우 "빨간 머리", "긴 부리"가 포함될 수 있다. 이러한 속성은 종종 구조화된 구성 방식으로 조직되며, 그 구조를 고려하면 학습이 개선된다. 이 접근 방식은 주로 컴퓨터 비전에서 사용되었지만, 자연어 처리에서도 몇 가지 예가 있다.
텍스트 설명 학습: 위에서 지적했듯이, 이는 자연어 처리에서 추구된 핵심 방향이다. 여기서 클래스 레이블은 의미를 갖는 것으로 간주되며 종종 정의나 자유 텍스트 자연어 설명으로 보강된다. 예를 들어 클래스에 대한 위키백과 설명이 포함될 수 있다.
클래스-클래스 유사성: 여기서 클래스는 연속 공간에 임베딩된다. 제로샷 분류기는 샘플이 해당 공간의 특정 위치에 해당한다고 예측할 수 있으며, 가장 가까운 임베딩 클래스가 예측 클래스로 사용된다. 훈련 중에 그러한 샘플이 관찰되지 않았더라도 마찬가지이다.
일반화된 제로샷 학습
위의 제로샷 분류 설정은 테스트 시점에 제로샷 샘플, 즉 보이지 않는 새 클래스의 샘플만 주어진다고 가정한다. 일반화된 제로샷 학습에서는 테스트 시점에 새 클래스와 알려진 클래스의 샘플이 모두 나타날 수 있다. 이는 주어진 샘플이 새 것인지 알려진 것인지 추정하는 것이 매우 어렵기 때문에 테스트 시점의 분류기에 새로운 도전 과제를 제기한다. 이를 처리하는 몇 가지 접근 방식은 다음과 같다:
- 게이팅 모듈: 먼저 주어진 샘플이 새 클래스에서 왔는지 이전 클래스에서 왔는지 결정하도록 훈련된 다음, 추론 시점에 하드 결정 또는 소프트 확률적 결정을 출력한다.
- 생성 모듈: 보이지 않는 클래스의 특징 표현을 생성하도록 훈련된 모듈로, 이후 표준 분류기를 본 클래스와 보이지 않는 클래스를 포함한 모든 클래스의 샘플로 훈련할 수 있다.
적용 분야
제로샷 학습은 다음 분야에 적용되었다:
- 이미지 분류
- 의미론적 분할
- 이미지 생성
- 객체 감지
- 자연어 처리
- 계산 생물학
- 추상 추론
현대 AI와의 관계
대규모 언어 모델과 트랜스포머 아키텍처의 부상으로, 제로샷 분류는 현대 인공지능 시스템에서 두드러진 능력이 되었다. 오픈AI, 앤트로픽, 구글 딥마인드가 개발한 모델과 같은 모델은 작업별 미세 조정 없이도 언어에 대한 사전 훈련된 이해를 활용하여 텍스트에 대한 제로샷 분류를 수행할 수 있다. 이는 초기의 속성 기반 및 임베딩 기반 접근 방식에서 신경망 가중치에 인코딩된 의미 지식을 활용하는 방향으로의 전환을 나타낸다. 컴퓨터 비전에서도 이미지와 텍스트 표현을 정렬하여 모델이 자연어로만 설명된 범주로 이미지를 분류할 수 있게 하는 유사한 발전이 이루어졌다. 이 기술은 또한 모델이 새로운 입력을 이해하고 분류해야 하는 생성형 AI의 많은 응용 프로그램의 기초가 된다.
같이 보기
- 퓨샷 학습
- 전이 학습
- 빠른 매핑
- 설명 기반 학습