Gary Marcusは、アメリカの認知科学者、起業家、著者であり、深層学習と大規模言語モデルのスケーリングだけでは人間レベルの知能や汎用知能に到達しないという主張に対する、最も著名な公的批評家の一人である。
Marcusはニューヨーク大学の心理学および神経科学の名誉教授であり、初期の研究は子どもの言語獲得と認知発達に焦点を当てていた。この研究は、人間の知能が生得的な構造と、パターン照合を行うニューラルネットワークには欠けている構成論的推論に依存しているという、彼の後の主張を形作った。彼は2014年に機械学習スタートアップのGeometric Intelligenceを設立し、同社は2016年にUberに買収されてUberのAI研究ラボの設立に貢献した。その後、彼はRobust.AIを設立し、より構造化されたルールに基づくアプローチをロボット工学とAIに適用することに注力した。
ハイブリッドAIの提唱
Marcusは一貫して、著書『Rebooting AI』（2019年、アーネスト・デイビスとの共著）や『Taming Silicon Valley』（2024年）を含め、純粋な深層学習ベースのシステム（大規模言語モデルなど）は、幻覚、訓練分布外での脆い一般化、接地された常識的推論の欠如といった特徴的な失敗を起こしやすいと主張してきた。そして、ニューラルネットワークと明示的な記号的表現および推論を組み合わせるアプローチ（しばしばハイブリッドAIまたはニューロシンボリックAIと呼ばれる）が、より信頼性の高いシステムに必要であると述べている。彼の批判は現在の生成AIの波に先立つものであり、2010年代初頭の深層学習の復活時に表明された懐疑論に遡る。彼はその後も、GPT-3、GPT-4、およびその後のChatGPTリリースを含むシステムに同じ枠組みを適用し続けている。
公的役割と証言
Marcusは2023年5月に、Sam AltmanおよびIBMの最高プライバシー責任者とともに米国上院司法委員会で証言し、高度なAIシステムを監督する専任の規制機関の設立を主張した。これは、より強力なAIガバナンスを求める広範な動きの一部である。彼はAIに関する活発な公的コメンテーターであり、汎用人工知能への進歩のペース、AIベンチマークの信頼性、近い将来のAI能力の過大評価のリスクについて、より楽観的な業界関係者と頻繁に公の場で議論している。
評価
支持者は、Marcusが大規模言語モデルの特定の失敗モード（信頼性の高い算術や事実の一貫性に関する問題など）を、それらが主流の関心事になるずっと前に正確に予見したと評価している。批判者は、スケーリングの限界に関する彼の予測が、その後のモデルリリースによって繰り返し覆されてきたと反論し、また、頻繁で目立つ賭けや予測を特徴とする彼の公的なスタイルが、ハイブリッドAI論のより慎重な研究レベルのバージョンを時折覆い隠してきたと指摘している。