대규모 언어 모델의 맥락에서 돌발 능력은 모델이 매개변수, 훈련 데이터 또는 계산량의 특정 규모를 넘어섰을 때 갑자기 나타나는 능력을 의미하며, 스케일링 법칙 아래에서 전체 훈련 손실이 부드럽고 예측 가능하게 개선되는 방식과는 대조적이다. 어떤 능력은 작은 모델에서는 우연 수준에 가까운 성능을 보이다가 같은 계열의 더 큰 모델에서는 우연 수준을 훨씬 웃도는 성능으로 급격히 도약할 때 돌발적이라고 설명된다.
용어의 기원
이 개념은 2022년 제이슨 웨이와 공동 저자들이 발표한 널리 인용된 논문 "대규모 언어 모델의 돌발 능력"에서 공식화되었다. 이 논문은 여러 모델 계열에 걸친 벤치마크 결과를 조사했으며, 특정 산술 문제, 다단계 추론 작업, 지시 따르기 등 수십 가지 과제에서 작은 모델의 성능이 우연 수준에 머물다가 특정 규모에 도달하면 급격히 향상되는 패턴을 확인했다. 저자들은 이러한 급격한 전이가 모델이 충분한 규모에 도달했을 때 새로운 능력이 출현함을 시사한다고 주장했다.
"신기루" 비판
2023년, 연구자 라일란 셰퍼, 브란도 미란다, 산미 코예요는 "대규모 언어 모델의 돌발 능력은 신기루인가?"라는 논문을 발표하며 많은 돌발 능력이 실제 현상이 아니라 연구자들이 선택한 평가 지표의 산물이라고 주장했다. 그들은 완전 정답만 인정하는 엄격한 정확도 지표 대신 부분 점수를 부여하는 지표를 사용하면, 동일한 모델과 과제에서 성능 곡선이 부드럽고 연속적으로 개선되는 것으로 나타난다는 점을 보여주었다. 즉, 근본적인 능력은 처음부터 꾸준히 향상되고 있었으며, 이산적인 평가 방식이 급격한 도약처럼 보이게 만들었다는 것이다.
지속되는 논쟁
이 논쟁은 아직 완전히 해결되지 않았다. 돌발 능력의 실재성을 주장하는 측은 일부 과제에서는 부분 점수 지표를 사용하더라도 여전히 급격한 전이가 관찰되며, 평가 지표의 변화만으로는 설명할 수 없는 질적으로 새로운 행동이 나타난다고 반박한다. 반면 비판론자들은 돌발 능력으로 해석되는 사례들이 대부분 지표 선택의 인공물이며, 더 정교한 평가 방법을 사용하면 연속적인 개선 패턴이 드러난다고 주장한다. 이 논쟁은 단순한 학문적 관심사를 넘어, 미래의 더 큰 모델이 예측 불가능한 새로운 능력을 갑자기 획득할 가능성이 있는지, 그리고 그러한 가능성이 일반 인공지능과 AI로 인한 실존적 위험에 대한 논의에 어떤 영향을 미치는지와 직결된다.