Gato는 Google DeepMind가 개발한 범용 인공지능 시스템으로, 2022년에 처음 발표되었다. 이는 단일 신경망으로 텍스트 생성, 이미지 인식, 로봇 제어, 게임 플레이 등 604개의 서로 다른 작업을 수행하도록 훈련된 시스템이다. Gato의 설계는 대규모 언어 모델에 사용되는 것과 동일한 기반인 트랜스포머 아키텍처를 기반으로 하지만, 텍스트, 이미지, 연속 제어 신호를 포함한 멀티모달 입력과 출력을 처리하도록 확장되었다.
이 시스템은 작업별 미세 조정 없이도 단일 모델이 다양한 영역에서 유능한 성능을 달성할 수 있음을 보여주는 시연으로 소개되었다. 모든 작업에서 전문 시스템을 능가하지는 못했지만, Gato는 AI 연구에서 범용 에이전트의 가능성을 부각시켰으며, 보다 유연하고 적응력 있는 모델을 지향하는 광범위한 노력에 기여했다.
아키텍처 및 훈련
Gato의 아키텍처는 서로 다른 양식의 토큰을 처리하는 트랜스포머 기반 시퀀스 모델이다. 이미지와 같은 입력은 비전 인코더를 통해 처리되며, 텍스트와 이산 동작은 직접 토큰화된다. 로봇의 관절 토크와 같은 연속 제어 출력은 구간(bin)으로 이산화된다. 모델은 모든 작업 유형에 걸쳐 시퀀스에서 다음 토큰을 예측하는 표준 머신 러닝 목적 함수를 사용하여 훈련되었다.
훈련 데이터는 텍스트 말뭉치, 이미지 데이터셋, 게임플레이 녹화, 실제 로봇 조작 시연 등 다양한 출처에서 수집되었다. 모델은 약 12억 개의 매개변수를 가지고 있어 당시의 대규모 언어 모델에 비해 상대적으로 작은 규모였다. 훈련에는 단일 TPUv3 포드가 사용되었으며, 이는 데이터와 계산 자원의 효율적인 사용을 반영한다.
기능 및 작업
Gato는 604개의 작업에 대해 평가되었으며, 다음과 같은 범주를 포함한다:
- 텍스트 작업: 질문 응답, 요약, 대화 생성.
- 시각 작업: 이미지 캡셔닝 및 객체 인식.
- 게임 플레이: Atari 게임 및 체스 환경에서 아마추어 수준의 성능 달성.
- 로봇 공학: 실제 로봇 팔을 제어하여 블록 쌓기 및 물체 조작 수행.
이 모델은 긍정적 전이(positive transfer)를 보여주었는데, 이는 한 작업 세트에서의 훈련이 다른 작업의 성능을 향상시켰음을 의미한다. 예를 들어, 텍스트와 이미지 데이터에 대한 노출이 로봇 제어 작업에 도움이 되었으며, 이는 서로 다른 양식 간에 공유된 표현이 유익함을 시사한다.
의의 및 평가
Gato는 깊이보다 폭에서 두드러진 특징을 보였다. 대부분의 작업에서 전문가 성능의 50% 이상을 달성했으며, 연구자들은 이를 범용 능력을 측정하는 기준으로 사용했다. 이 시스템은 인공 일반 지능(AGI)으로 가는 한 걸음으로 간주되었지만, 전문가들은 전용 모델에 비해 개별 작업에서의 깊은 전문성이 부족하다는 점을 지적했다.
비평가들은 Gato의 성능이 개별 작업에서 최첨단 시스템에 미치지 못하는 경우가 많았으며, '범용성'이라는 개념이 고정된 작업 세트에 의해 제한된다고 지적했다. 그럼에도 불구하고, Gato는 생성형 AI 및 다중 작업 학습에 관한 후속 연구에 영향을 미쳤으며, 특히 DeepMind 내부와 더 넓은 AI 커뮤니티에서 그러했다.
다른 모델과의 관계
Gato는 OpenAI와 Anthropic의 대규모 언어 모델과 개념적 뿌리를 공유하지만, 제어 및 멀티모달 통합에 대한 명시적 초점에서 차별화된다. 순수 텍스트 모델과 달리, Gato는 물리적 및 시뮬레이션 환경과 상호작용할 수 있어 구현된 AI 시스템에 더 가깝다. 또한 딥 러닝에서 단일 아키텍처로 다양한 작업을 통합하려는 노력과도 평행선을 이루며, 이러한 추세는 이후 모델에서도 계속되었다.
유산 및 향후 방향
Gato의 출시는 범용 에이전트의 확장에 관한 논의를 촉발했다. 이후 연구 분야에서는 더 큰 모델, 더 다양한 작업 세트, 개선된 훈련 기법을 탐구해 왔다. Gato 자체는 상업적으로 배포되지 않았지만, 그 원칙은 이후 DeepMind 프로젝트에 영향을 주었고, 여러 양식을 처리하는 기반 모델로의 광범위한 전환에 기여했다.
2025년 현재, 단일 모델로 수백 가지 작업을 수행한다는 개념은 여전히 활발한 연구 주제이며, Gato는 초기 개념 증명으로서의 역할을 수행했다. 그 유산은 통합된 아키텍처가 다양한 영역에서 합리적인 성능을 달성할 수 있음을 입증하고, 보다 강력한 범용 시스템을 위한 길을 닦은 데 있다.