세계 모델(world model)은 인공지능에서 에이전트가 환경이 시간에 따라 어떻게 변화할지, 특히 자신의 행동에 대한 반응을 포함하여 예측하는 데 사용하는 내부 표현이다. 이를 통해 에이전트는 실제 환경에서 행동하여 결과를 관찰할 필요 없이 계획을 세우고, 결과를 상상하며, 선택지를 평가할 수 있다. 이 용어는 고전적 제어 이론과 모델 기반 강화 학습에 뿌리를 두고 있으며, 여기서 에이전트의 환경 역학 모델은 계획에 명시적으로 사용된다. 그러나 최근 몇 년 동안 연구자들이 원시 감각 데이터, 특히 비디오에서 예측적 세계 모델을 학습하는 것이 텍스트만으로 훈련하는 것보다 더 일반적이고 강건한 지능으로 가는 경로가 될 수 있다고 제안하면서 그 의미는 더욱 확장되었다.
강화 학습에서의 기원
모델 기반 강화 학습은 오랫동안 행동하기 전에 미래 상태를 시뮬레이션하기 위해 명시적 또는 학습된 역학 모델을 사용해 왔으며, 이는 시행착오를 통해 정책이나 가치 함수를 직접 학습하는 모델 프리 접근 방식과 대조된다. David Ha와 위르겐 슈미트후버가 2018년에 발표한 "World Models"라는 제목의 널리 인용된 논문은 에이전트가 비디오 게임 환경의 압축된 생성 모델을 학습한 다음 거의 전적으로 그 학습된 시뮬레이션 내부에서 정책을 훈련할 수 있음을 보여주었으며, 현대 AI 의미에서 이 용어를 대중화하고 예측적, 자기 모델링 에이전트에 대한 초기 연구를 기반으로 구축했다.
비디오 예측과 생성적 세계 모델
새로운 연구 계열은 대규모 비디오 예측 자체를 수작업으로 설계된 시뮬레이터 없이 세계 모델을 암묵적으로 학습하는 방법으로 취급한다. 2024년에 소개된 Google DeepMind의 Genie는 기본 게임 엔진 상태나 행동 레이블에 접근하지 않고 레이블이 없는 인터넷 비디오에서만 플레이 가능한 상호작용형 2D 환경을 생성하는 방법을 학습했으며, 이는 행동 조건부 세계 역학이 수동적 관찰에서 학습될 수 있음을 보여주었다. 소라와 같은 비디오 생성 시스템도 개발자들에 의해 초기 범용 "세계 시뮬레이터"로 설명되었는데, 이는 비디오가 어떻게 계속되어야 하는지 정확히 예측하려면 물리, 객체 영속성, 인과 관계에 대한 암묵적 모델이 필요하다는 주장에 기반한다. 다만 비평가들은 이러한 모델이 기본적인 물리적 일관성을 자주 위반하며 유창한 비디오 생성이 반드시 신뢰할 수 있거나 일반화 가능한 내부 물리 모델을 의미하지는 않는다고 지적한다.
JEPA와 LeCun의 제안
얀 르쿤은 순수 생성적 비디오 모델과 표준 자기회귀 모델 언어 모델링 모두에 대한 대안으로 JEPA(Joint Embedding Predictive Architecture)를 제안했다. JEPA 스타일 모델은 원시 픽셀이나 토큰을 예측하는 대신 추상적이고 학습된 표현 공간에서 미래 상태를 예측한다. 르쿤은 이 접근 방식이 텍스처 노이즈와 같은 무관한 세부 사항을 무시하면서도 계획에 필요한 인과 구조를 포착하는 데 더 효율적이고 더 유능하다고 주장한다. 르쿤은 이러한 방식으로 구축된 세계 모델을 구현 AI와 오늘날의 대규모 언어 모델 시스템의 능력을 넘어서는 진전을 위한 핵심적인 빠진 요소로 규정하며, 이 아이디어를 주로 텍스트 기반 사전 훈련 확장에 베팅하는 연구소들과 직접 대조시킨다.
중요성
세계 모델은 로봇 공학과 게임 플레이 에이전트뿐만 아니라 인공 일반 지능에 대한 더 넓은 질문에도 관련이 있는 것으로 점점 더 논의되고 있다. 정확한 내부 환경 모델을 가진 에이전트는 원칙적으로 긴 시간 범위에 걸쳐 계획을 세우고 즉각적인 입력에만 반응하는 에이전트보다 새로운 상황에 더 효율적으로 일반화할 수 있기 때문이다. 2020년대 중반 현재, 세계 모델 연구는 여전히 활발하고 미해결된 영역으로, 얼마나 많은 부분을 수동적 비디오에서 학습할 수 있는지 대 얼마나 많은 부분이 구현된 상호작용을 요구하는지에 대해 상당한 의견 차이가 존재한다.