Gary Marcus는 미국의 인지과학자, 기업가, 저술가로서, 딥러닝과 대규모 언어 모델만으로는 인간 수준의 지능이나 일반 지능에 도달할 수 없다는 주장에 대해 가장 prominent한 공개 비판자 중 한 명이다.
Marcus는 뉴욕대학교의 심리학 및 신경과학 명예교수로서, 그의 초기 연구는 아동의 언어 습득과 인지 발달에 초점을 맞추었으며, 이러한 연구는 이후 그가 인간 지능이 타고난 구조와 구성적 추론에 의존하며, 패턴 매칭에 기반한 신경망은 이를 결여하고 있다는 주장을 펼치는 데 기반이 되었다. 그는 2014년 머신러닝 스타트업인 Geometric Intelligence를 설립했으며, 이 회사는 2016년 우버에 인수되어 우버의 AI 연구소 설립에 기여했다. 이후 그는 로봇공학과 AI에 보다 구조화된 규칙 기반 접근법을 적용하는 데 초점을 맞춘 Robust.AI를 설립했다.
하이브리드 AI 옹호
Marcus는 저서 《Rebooting AI》(2019, 어니스트 데이비스 공저)와 《Taming Silicon Valley》(2024)에서 일관되게 주장해 왔는데, 순수 딥러닝 기반 시스템은 환각 현상, 훈련 분포를 벗어난 상황에서의 취약한 일반화, 그리고 grounded된 상식 추론의 부재와 같은 특징적인 결함을 지니며, 따라서 신경망과 명시적 기호적 표현 및 추론을 결합한 하이브리드 또는 신경-기호 AI 접근법이 보다 신뢰할 수 있는 시스템을 구축하는 데 필수적이라고 주장한다. 그의 비판은 2010년대 초 딥러닝이 부흥하던 시절의 회의론에서 시작되어, 이후 GPT 3, GPT 4 및 연이은 ChatGPT 릴리스에 이르기까지 동일한 프레임워크를 꾸준히 적용해 왔다.
공개 활동 및 증언
Marcus는 2023년 5월 미국 상원 사법위원회 청문회에서 샘 올트먼 및 IBM의 최고 개인정보 책임자와 함께 증언하며, 고도화된 AI 시스템을 감독하기 위한 전담 규제 기구의 설립을 촉구했다. 이는 보다 강력한 AI 거버넌스를 지향하는 광범위한 움직임의 일환이었다. 그는 AI에 대한 활발한 공개 논평자로서, 범용 인공지능으로의 진전 속도, AI 벤치마크의 신뢰성, 그리고 단기적 AI 능력에 대한 과대선전의 위험성에 대해 업계의 낙관론자들과 자주 논쟁을 벌여 왔다.
평가
지지자들은 Marcus가 대규모 언어 모델의 구체적인 실패 모드, 특히 신뢰할 수 있는 산술 연산과 사실적 일관성의 결여를 그러한 문제가 주류의 관심사가 되기 훨씬 이전에 정확히 예견했다고 평가한다. 반면 비판자들은 스케일링의 한계에 대한 그의 예측이 이후의 모델 릴리스들에 의해 반복적으로 반증되었다고 반박하며, 그의 빈번하고 가시성 높은 공개적 논쟁 스타일이 때로는 그의 하이브리드 AI 주장의 보다 신중한 연구 기반 버전을 가리곤 한다고 지적한다.