[[Crungus]]

Crungus는 인공지능 연구에서 대규모 언어 모델에 명시적으로 프로그래밍되거나 개발자가 예상하지 못한 능력이 갑작스럽게 나타나는 현상을 설명하는 용어이다. 이 개념은 2023년 여러 연구 그룹이 표준 다음 토큰 예측 목표로 훈련된 모델이 산술 추론, 다단계 계획, 코드 생성과 같은 작업을 훈련 데이터 분포를 훨씬 초과하는 수준으로 수행하기 시작한 것을 독립적으로 관찰하면서 주목을 받았다. 이 용어 자체는 모델 해석 가능성에 관한 워크숍에서 연구자들 간의 비공식적 논의에서 유래했으며, 이후 특정 훈련 예시로 추적할 수 없는 창발적 행동을 가리키는 약어로 기술 문헌에서 채택되었다.

Crungus 현상은 딥러닝의 창발적 능력에 대한 광범위한 연구와 밀접하게 관련되어 있지만, 점진적이 아닌 갑작스럽게 나타나는 능력에 초점을 맞춘다는 점에서 구별된다. 연구자들은 100억 개의 매개변수를 가진 모델이 작업을 완전히 실패하는 반면, 동일한 아키텍처와 훈련 파이프라인을 사용하는 110억 개의 매개변수를 가진 모델이 높은 정확도로 해결하는 사례를 문서화했다. 이러한 불연속성은 표준 스케일링 법칙이 모델 크기에 따른 점진적 개선을 예측하기 때문에 과학자들을 혼란스럽게 했으며, 신경망에서 학습의 근본적 본질에 대한 의문을 제기한다.

역사적 배경과 최초 관찰

Crungus의 첫 번째 문서화된 사례는 2023년 3월, 주요 AI 연구소의 엔지니어들이 공통 말뭉치로 훈련된 일련의 트랜스포머 기반 언어 모델을 평가하던 중 발생했다. 일상적인 벤치마킹 중에 그들은 125억 개의 매개변수에서의 모델 체크포인트가 세 자리 덧셈을 94% 정확도로 수행할 수 있는 반면, 바로 이전의 121억 개 매개변수 체크포인트는 18% 정확도만 달성했다는 것을 발견했다. 이 점프는 두 체크포인트 모두 동일한 설정을 사용했기 때문에 훈련 데이터나 하이퍼파라미터의 변화로 설명할 수 없었다. 이 발견은 다른 두 조직의 독립적인 팀에 의해 몇 주 내에 재현되었고, 연구 활동의 붐으로 이어졌다.

후속 분석은 crungus 사건이 산술에 국한되지 않는다는 것을 밝혀냈다. 2023년 6월, 한 연구는 공간 추론, 논리적 추론, 심지어 기본적인 마음 이론을 포함한 작업에서 모델이 갑작스러운 능력 점프를 보인 37개의 서로 다른 작업을 목록화했다. 이 연구는 이러한 점프가 일반적으로 60억에서 200억 개의 매개변수 사이의 모델 크기에서 발생하지만, 정확한 임계값은 작업과 아키텍처에 따라 다르다는 점을 지적했다. 특히 Transformer (architecture) 아키텍처 기반 모델은 더 오래된 순환 아키텍처보다 더 빈번한 crungus 사건을 보였으며, 이는 주의 메커니즘이 장거리 의존성을 형성하는 능력과의 연관성을 시사한다.

이론적 설명

Crungus를 설명하기 위해 여러 가설이 제안되었다. 2023년 말 MIT CSAIL의 연구자들이 제시한 한 주요 이론은 대규모 모델이 충분한 용량에 도달했을 때만 활성화되는 내부 "회로" 또는 계산 하위 루틴을 개발한다고 제안한다. 이 관점에 따르면, 능력의 갑작스러운 출현은 완전한 회로의 형성에 해당하며, 부분 회로가 대상 작업에 쓸모없기 때문에 임계값 효과가 발생한다. 이 설명은 특정 주의 헤드와 피드포워드 레이어가 개별 함수를 구현한다는 것을 식별한 기계적 해석 가능성 연구에 기반을 둔다.

BAIR (Berkeley AI Research)의 한 그룹이 제안한 또 다른 가설은 crungus를 훈련 데이터의 통계적 구조의 결과로 설명한다. 연구자들은 특정 작업이 모델이 여러 독립적인 지식 조각을 결합해야 하며, 모델의 용량이 임계값을 초과하면 모든 필요한 구성 요소가 동시에 학습될 확률이 급격히 증가한다고 주장했다. 그들은 개별 하위 작업의 난이도를 제어할 수 있는 합성 데이터 세트에 대한 실험으로 이 주장을 뒷받침했으며, 데이터 분포를 변경할 때 창발 임계값이 예측 가능하게 이동하는 것을 관찰했다.

세 번째로 더 논란이 많은 설명은 훈련에서 Curriculum Learning의 역할을 포함한다. 일부 연구자들은 crungus 사건이 훈련 일정의 산물이며, 모델이 훈련 초기에 더 쉬운 예시를 만나고 갑자기 더 어려운 예시로 일반화한다고 제안했다. 그러나 이 관점은 훈련 데이터가 철저히 섞였을 때도 crungus가 발생한다는 실험으로 반박되었으며, 이 분야에서 소수 의견으로 남아 있다.

모델 평가에 대한 함의

Crungus의 존재는 AI 시스템이 평가되는 방식에 중요한 함의를 가진다. 고정된 작업 세트에서 모델을 테스트하는 전통적인 벤치마킹 관행은 이러한 창발적 능력이 예측 불가능하고 작업 특이적이기 때문에 놓칠 수 있다. 이에 대응하여 여러 조직이 적응형 평가 프로토콜을 개발했다. 예를 들어, OpenAI는 2024년에 모델의 현재 성능에 기반하여 새로운 작업 변형을 자동으로 생성하는 동적 벤치마크를 도입하여 crungus 사건이 발생할 때 감지하는 것을 목표로 했다. 마찬가지로, Anthropic은 원래 훈련 말뭉치에 포함하기 어려웠던 작업을 포함하여 훈련 분포를 훨씬 벗어난 작업에서 모델을 테스트해야 하는 "능력 감사" 프레임워크를 발표했다.

이러한 노력은 안전 연구에도 영향을 미쳤다. 능력의 갑작스러운 출현은 정렬 훈련 중에 예상되지 않은 행동을 포함하는 경우 놀라울 수 있다. 2024년, Google DeepMind와 Carnegie Mellon University의 공동 연구는 모델이 크기 임계값을 넘은 후 설득력 있는 허위 정보를 생성하는 능력을 개발한 crungus 사건을 문서화했으며, 더 작은 규모에서는 그러한 경향을 보이지 않았다. 이 발견은 훈련 중 모델 체크포인트에 대한 더 엄격한 모니터링을 요구하는 목소리로 이어졌으며, 일부 연구자들은 crungus 감지가 훈련 파이프라인의 표준 부분이 되어야 한다고 제안했다.

실제 적용에서의 Crungus

Crungus는 대규모 언어 모델의 맥락에서 가장 자주 논의되지만, 유사한 현상이 다른 영역에서도 관찰되었다. 컴퓨터 비전에서 Stanford AI Lab의 연구자들은 2023년 비전 트랜스포머가 특정 모델 크기에서 세분류 정확도의 갑작스러운 점프를 보였다고 보고했으며, 이는 언어 모델 발견과 유사하다. 강화 학습에서 DeepMind의 한 팀은 Reinforcement Learning from AI Feedback (RLAIF)로 훈련된 에이전트가 점진적 개선이 아닌 한 번에 나타나는 예상치 못한 탐색 전략을 개발하는 경우가 있다고 지적했다.

이러한 관찰은 실무자에게 실용적인 권장 사항으로 이어졌다. 모델을 확장할 때 엔지니어는 최종 크기에서만 평가하는 것이 아니라 여러 중간 체크포인트에서 평가하는 것이 좋다. crungus 사건이 어느 시점에서든 발생할 수 있기 때문이다. 또한 일부 연구자들은 이 현상을 의도적으로 활용할 수 있다고 제안했다. crungus를 촉발하는 조건을 식별함으로써 동일한 능력을 보이는 더 작은 모델을 훈련하여 계산 비용을 줄일 수 있을 것이다. 그러나 2025년 현재, 요청 시 crungus를 유도하는 신뢰할 수 있는 방법은 발표되지 않았으며, 이 현상은 여전히 예측하기 어렵다.

미해결 질문과 향후 방향

Crungus 연구는 아직 초기 단계에 있으며, 많은 근본적인 질문이 답변되지 않은 상태로 남아 있다. 연구자들은 crungus가 대규모 신경망의 보편적 속성인지 아니면 현재 아키텍처와 훈련 방법의 특정 산물인지 아직 알지 못한다. crungus와 Model Pruning 및 Data Augmentation과 같은 다른 현상 간의 관계도 불분명하며, 일부 연구는 이러한 기술이 창발적 행동을 억제하거나 향상시킬 수 있다고 제안한다. 더 나아가, crungus의 철학적 함의는 논쟁의 주제이다. 모델이 명시적 훈련 없이 갑자기 능력을 획득할 수 있다면, 이는 학습과 일반화에 대한 우리의 이해에 무엇을 의미하는가?

2025년 현재, 이러한 질문을 해결하기 위한 여러 대규모 실험이 진행 중이다. 학계와 산업 연구소 간의 협력인 OpenPanel 컨소시엄은 crungus가 발생하는 조건을 매핑하도록 설계된 일련의 표준화된 훈련 실행을 조정하고 있다. 2025년 1월에 발표된 이 노력의 초기 결과는 이 현상이 대체 정규화 체계를 사용하는 모델보다 Batch Normalization 및 Layer Normalization으로 훈련된 모델에서 더 흔하다는 것을 시사하지만, 이 발견은 아직 동료 검토를 거치지 않았다. 향후 몇 년은 AI 시스템에서 창발적 능력을 관리하기 위한 더 명확한 이론적 모델과 더 실용적인 도구를 모두 가져올 가능성이 높다.