雅各布·安德烈亚斯是麻省理工学院计算机科学与人工智能实验室（MIT CSAIL）的助理教授。他的研究聚焦于语言落地与组合语义，探索人工智能系统如何将语言结构与现实世界的意义和行动联系起来。他隶属于麻省理工学院电气工程与计算机科学系。
安德烈亚斯在加州大学伯克利分校获得博士学位，导师是丹·克莱因。他的博士研究探讨了如何学习语言中的组合结构，并将其用于视觉问答和指令跟随等任务。在加入麻省理工学院之前，他曾在谷歌深度思维担任博士后研究员。
研究贡献
安德烈亚斯的早期研究引入了学习模块化神经网络的方法，这些网络以结构化方式组合子任务。在2016年的一篇论文中，他与同事提出了一种模型，该模型学习将问题分解为更小的子问题，每个子问题由专门模块回答，然后组合结果。与整体式神经网络相比，这种方法在视觉问答基准上展示了更优的性能。
他在组合语义方面的工作还涉及如何在没有显式标注的情况下从数据中归纳潜在的语言结构。他研究了使用大型语言模型进行语义解析和语言落地，探讨如何引导这些模型生成可解释且具有组合性的表示。
语言落地与指令跟随
安德烈亚斯研究的核心主题之一是将语言落地到交互式环境中。他调查了智能体如何通过强化学习和课程学习在模拟世界中学习遵循自然语言指令，以提高样本效率。他的工作表明，组合性任务描述可用于泛化到未见过的指令组合。
安德烈亚斯还探讨了语言与形式逻辑之间的关系，提出了将自然语言转换为可执行程序的方法。这一研究方向与机器学习中构建显式推理结构系统的更广泛努力相关联。
代表性出版物与荣誉
安德烈亚斯在NeurIPS、ICLR、ACL和EMNLP等主要学术会议上发表论文。他的论文多次获得最佳论文提名和奖项。他于2021年被命名为斯隆研究奖获得者，以表彰其在计算机科学领域的早期职业贡献。
他在麻省理工学院的教学包括自然语言处理和机器学习的研究生课程。他还受邀在学术机构和行业研究实验室发表演讲，包括OpenAI和Anthropic。
更广泛影响与当前方向
安德烈亚斯近期的工作考察了Transformer模型的可解释性，特别是注意力机制如何编码组合信息。他主张设计测试系统性泛化的基准，这一挑战由元学习社区所强调。
他还对语言与概率编程的交集感兴趣，旨在构建能够在保持组合结构的同时推理不确定性的模型。截至2024年，他在麻省理工学院的研究团队继续探索这些主题，重点关注使深度学习系统更加透明和可靠。
参见
- 约书亚·特南鲍姆，，认知科学家，以组合性和直观物理学研究著称
- 布伦丹·莱克，，人类类似机器学习与系统性泛化研究者
- 斯坦福人工智能实验室，，另一个在语言与推理方面有相关研究的机构