Brenden Lake 是纽约大学心理学与数据科学副教授,领导人类与机器学习实验室。他的研究处于人工智能、机器学习与认知科学的交叉领域,旨在理解并复现人类从稀疏示例中高效学习与泛化的非凡能力。Lake 最为人熟知的工作是其在人类水平概念学习方面的研究,尤其是开发能够从单个示例中学习的模型,这一能力与大多数现代深度学习系统对数据的巨大需求形成鲜明对比。
Lake 的学术轨迹始终以将计算模型与行为实验相结合为特色。他在麻省理工学院获得计算神经科学博士学位,师从计算认知科学领域的领军人物Joshua Tenenbaum。这一基础塑造了他的观点,即人工智能的进步不仅需要扩展模型规模,还需要理解人类认知的基本原理。
早期生涯与学术背景
Lake 出生于美国,本科就读于加州大学伯克利分校,获得认知科学学位。他对心理学与计算交叉领域的兴趣引领他进入麻省理工学院,并于2014年获得博士学位。他的博士论文聚焦于从少量示例中学习概念,这一主题后来成为其研究的核心。
完成博士学位后,Lake 在麻省理工学院从事博士后研究,随后于2017年加入纽约大学任教。在纽约大学,他同时在心理学系和数据科学中心任职,体现了其跨学科的研究方法。他的实验室已成为对构建像人类一样学习与推理的人工智能系统感兴趣的研究者的中心。
人类水平概念学习
Lake 最重要的贡献之一是开发能够从单个示例中学习新概念的计算模型。在2015年发表于《科学》杂志的一篇里程碑式论文中,Lake 及其同事引入了一种名为贝叶斯程序学习(BPL)的模型。该模型在仅看到一次实例后,就能学会识别并生成新颖的手写字符,其性能可与人类学习者相媲美。
BPL 的工作原理是将视觉概念分解为概率程序,即一种捕捉底层笔画及其关系的结构化表示。这种方法与当时主导该领域的神经网络模型形成对比,后者通常需要数千个示例才能达到类似的准确性。Lake 的工作表明,结构化的组合表示能够实现远为高效的学习。
这项研究对该领域产生了持久影响,启发了后续关于少样本学习和元学习的研究。它还强调了纳入反映人类认知先验的归纳偏置的重要性,例如将复杂对象分解为更简单部分的倾向。
抽象与推理语料库
2019年,Lake 与其同事 François Chollet 引入了抽象与推理语料库(ARC),这是一个旨在衡量人工智能系统通用流体智能的基准。ARC 由视觉推理任务组成,要求系统具备推断抽象模式并将其应用于新情境的能力。与许多标准基准不同,ARC 任务设计为对人类容易但对机器具有挑战性,因为它们需要关于对象性、空间关系和变换的核心知识。
ARC 已成为人工智能社区广泛使用的评估工具,推动了关于系统泛化和分布外推理的研究。Lake 认为,当前的大型语言模型和基于Transformer的架构,尽管规模惊人,但往往在 ARC 任务上失败,因为它们缺乏人类所拥有的组合推理和因果推理能力。这项工作使 Lake 成为“仅靠扩展规模就能实现人类水平人工智能”这一观点的突出批评者。
系统泛化与组合性
Lake 研究中反复出现的主题是系统泛化的重要性,即理解并生成已知概念的新颖组合的能力。在2019年发表于《科学》杂志的一篇论文中,Lake 及其同事证明,标准神经网络在测试新词义组合时往往无法系统泛化。例如,一个训练过理解“跳两次”和“向左转”的模型,可能无法理解“向左跳”或“转两次”。
这项工作凸显了许多深度学习方法的根本局限,并主张需要纳入组合归纳偏置。Lake 探索了多种方法来解决这一问题,包括训练模型快速学习新任务的元学习技术,以及将神经网络与符号推理相结合的混合架构。他的研究表明,实现人类水平的人工智能需要联结主义与符号方法的综合。
认知科学与人工智能整合
Lake 是人工智能研究应借鉴认知科学这一观点的坚定倡导者。他认为,研究人类如何学习、推理和泛化,可以为构建更稳健、更高效的人工智能系统提供宝贵见解。这一观点体现在他与心理学家和神经科学家的合作中,以及他参与弥合这两个领域差距的倡议中。
在一篇被广泛引用的2017年论文《构建像人一样学习和思考的机器》中,Lake 及其合著者基于认知原则勾勒了人工智能研究的路线图。他们提出,未来的人工智能系统应能够从少量示例中学习、进行因果推理,并利用直观物理和心理学。这篇论文对塑造关于当前方法局限性和更类人人工智能潜力的讨论产生了影响。
近期工作与未来方向
近年来,Lake 将研究扩展到探索生成式人工智能模型的能力与局限。他调查了大型语言模型在适当提示下是否能表现出系统泛化,以及它们是否能从极少量示例中学习新概念。他的发现喜忧参半,表明尽管这些模型功能强大,但仍缺乏人类认知的某些核心方面。
Lake 还参与了开发新基准和评估方法的努力,以更好地捕捉类人智能。他主张在需要主动学习、因果推理和适应新环境能力的任务上测试人工智能系统的重要性。他正在进行的工作旨在构建不仅在特定任务上表现良好,而且展现出人类认知灵活性和稳健性的模型。
影响与认可
Lake 的研究因其原创性和影响力而广受认可。他获得了多项奖项,包括美国国家科学基金会职业奖和斯隆研究奖学金。他的论文发表在《科学》和《自然·人类行为》等顶级期刊上,并且他是主要人工智能和认知科学会议上的常邀演讲者。
在学术界之外,Lake 的观点影响了人工智能行业关于该领域未来的讨论。他对基于扩展规模方法的批评促使OpenAI和Google DeepMind等公司的研究人员考虑替代架构和训练范式。他还为关于人工智能安全以及构建与人类价值观一致的系统重要性的公共讨论做出了贡献。
教学与指导
在纽约大学,Lake 教授机器学习和认知科学课程,指导对这两个领域交叉感兴趣的新一代研究者。他的学生已进入学术界和工业界任职,继续推动人类水平人工智能研究的前沿。Lake 以其协作和开放的态度著称,鼓励跨学科思考和严谨实验。
Lake 对人工智能的愿景是,机器不仅是工具,而且是能够与人类一起学习和推理的伙伴。他的工作挑战该领域超越狭窄基准,走向对智能本身的更深理解。随着人工智能的持续发展,Lake 的贡献很可能仍将是追求真正像人一样思考和学习的机器的核心。
精选出版物
Lake 撰写了众多有影响力的论文,包括:
- “通过概率程序归纳实现人类水平概念学习”(2015年,《科学》)
- “构建像人一样学习和思考的机器”(2017年,《行为与脑科学》)
- “无系统性的泛化:关于序列到序列循环网络的组合技能”(2018年,ICML)
- “抽象与推理语料库”(2019年,arXiv)
- “系统泛化:需要什么,能否习得?”(2019年,《科学》)
这些工作共同塑造了人类水平人工智能的研究议程,激励了学术界和工业界努力构建更强大、更类人的系统。
结论
Brenden Lake 是创造模仿人类学习与推理的人工智能努力中的领军人物。他的跨学科方法将认知科学与机器学习相结合,为机器如何从少量示例中学习并系统泛化提供了基础性见解。尽管人类水平人工智能的目标仍然遥远,但 Lake 的研究提供了一条有原则的前进道路,强调结构、组合性和认知现实性的重要性。随着研究者们应对构建真正理解世界的机器的挑战,他的工作将在未来多年继续影响该领域。