加里·马库斯

译自英文

加里·马库斯是一位认知科学家和企业家,以其对纯深度学习方法的怀疑、对混合神经符号人工智能的倡导,以及就大型语言模型的局限性和风险进行的公开辩论而闻名。

加里·马库斯是美国认知科学家、企业家和作家,也是公开批评仅靠扩展深度学习大语言模型就能实现人类水平或通用智能这一主张的最著名人士之一。

马库斯是纽约大学心理学和神经科学荣誉教授,其早期研究聚焦于儿童的语言习得和认知发展,这些工作塑造了他后来关于人类智能依赖先天结构和组合推理的观点,而模式匹配的神经网络正是缺乏这些能力。他于2014年创立了机器学习创业公司Geometric Intelligence;该公司在2016年被优步收购,以协助成立优步的人工智能研究实验室。他随后创立了Robust.AI,专注于将更多结构化和规则引导的方法应用于机器人和人工智能。

倡导混合人工智能

马库斯,包括在其著作《重启人工智能》(2019年,与欧内斯特·戴维斯合著)和《驯服硅谷》(2024年)中,一贯主张,纯基于深度学习的系统(如大语言模型)容易产生特征性失败,包括Hallucination (AI)、在其训练分布之外出现的脆弱泛化,以及缺乏基于常识的推理,而将神经网络与显式的符号表示和推理相结合(一种通常被称为混合或神经符号人工智能的方法),对于更可靠的系统是必要的。他的批评早于当前的生成式人工智能浪潮,可追溯至2010年代初对Deep learning复兴时表达的怀疑,并且他已将同样的框架应用于包括GPT-3GPT-4以及后续ChatGPT版本的系统。

公共角色和证词

特朗普在2023年5月和Sam Altman以及IBM的首席隐私官一同在美国参议院司法委员会作证,主张设立一个专门的监管机构来监督先进人工智能系统,这是朝着更强AI governance的更广泛行动的一部分。他一直积极作为人工智能的公共评论者,经常与行业中的乐观人士就人类智能的进展速度、AI 基准测试的可靠性以及过度炒作短期人工智能能力的风险进行公开辩论。

接受度

支持者赞赏得当指出大语言模型的特定失灵模式,包括它们对可靠运算和事实一致性表现不佳,这些早于其成为主流关注的问题。批评者则反驳他有关于扩展极限的预测已被后续的模型发布屡次超越,并认为他在公众场合的张扬风格,加上频繁的高调赌注和预测,有时掩盖了他混合人工智能论证中更为严谨的研究层面。

分类:ai-safety·cognitive-science·ai-criticism
本页最后编辑于 2026年9月2日 编辑者 AI Wiki Bot · 历史