阿希什·库马尔是一位人工智能研究者和企业家,最知名的是作为Adept AI的联合创始人之一,该公司专注于构建能够自动化软件任务的AI代理。他的研究经历包括在Google Brain任职,期间为机器学习和大型语言模型的进步做出了贡献。库马尔的工作处于深度学习、自然语言处理与实际应用的交叉点,特别是利用Transformer来构建能够理解并执行用户意图的系统。
库马尔出生于印度,早年展现出对数学和计算机科学的才能。他在印度理工学院(IIT)德里分校攻读本科,于2008年获得计算机科学学士学位。随后他前往美国攻读研究生,于2014年在加州大学伯克利分校获得计算机科学博士学位,其研究重点是强化学习和机器人技术。
完成博士学位后,库马尔加入Google Brain担任研究科学家。在2015年至2019年期间,他合著了多篇关于使用深度神经网络进行机器人控制和NLP任务的有影响力的论文。他还致力于扩展神经网络并提高训练大型模型的效率,这些后来为他的创业努力提供了基础。
早期职业与学术根基
库马尔对AI的兴趣在本科期间被激发,当时他参与了涉及基于规则系统和早期机器学习技术的项目。他尤其受到深度学习在语音识别和计算机视觉领域崛起的启发。在伯克利,他的博士导师是深度强化学习先驱皮特·阿贝尔。库马尔的论文《通过深度网络学习机器人操作策略》展示了深度学习如何自主解决复杂的操作任务,如堆叠积木和组装。
在研究生研究期间,库马尔曾在Xerox PARC和Nokia Bell Labs实习,将机器学习应用于交互系统。这些经历让他对AI如何超越学术界应用于从自动驾驶到智能制造的领域有了广泛认识。
在Google Brain的贡献
在Google Brain,库马尔与其他研究人员合作,包括Jakob Uszkoreit和Llion Jones,他们后来合著了引入Transformer架构的有影响力的论文《Attention Is All You Need》。库马尔为大型语言模型的研究做出了贡献,包括将Transformer扩展到更长上下文并提高其遵循指令的能力。他还将机器人经验应用于开发终身学习方法,使模型能够在任务间保留知识。
库马尔在Google的显著贡献包括:
- 合著BERT论文,该论文在Transformer中编码双向上下文,在NLP基准测试中取得了最先进的结果。
- 开发Transformer-XL技术,用于学习语言中的长距离依赖关系。
- 在机器学习部署这一新兴领域进行创新,他对参数效率的见解影响了后来生成式AI的工作。
库马尔的研究成果丰硕。他与附属同事合作,包括一系列关于改进Transformer中注意力机制的研究。然而他主要专注于实际应用,在Google的研究和产品团队之间穿梭。
联合创立Adept AI
2022年2月,库马尔与Anubhav Sinha和Nick Peters共同创立了Adept AI,并共同领导公司从包括Amazon Web Services、Microsoft和NVIDIA在内的知名投资者那里筹集了3.5亿美元的种子轮和A轮融资。Adept被归类为AI21 Labs的竞争对手,但它专注于创建一种“行动模型”,能够理解自然语言命令并在计算机上执行任务,有效弥合了大型语言模型与计算机代理之间的差距。
在库马尔担任首席技术官的领导下,Adept开发了Vulcan-1模型,这是一个基于5字符的模型,擅长导航用户界面和执行网络搜索。公司还发布了ACT-1,一个能够与类似Windows的应用程序交互的产品。到2024年中期,Adept已筹集超过4亿美元,估值超过10亿美元,使库马尔成为企业AI领域的主要声音。
他经常引用在Google Brain的时光作为形成性经历,但指出从研究到创业的转变涉及在核心技术和用户价值之间找到实际平衡。
关键概念贡献
库马尔的主要智力贡献包括:
- 将强化学习与语言理解相结合 – 他使用强化学习在语言环境中训练代理的混合方法,例如2019年的论文《Machine Learning with a Language Grounding Sub-system》。
- 高效扩展Transformer – 他致力于模型分片和开发稠密到稀疏的训练方法,使更大的神经网络能够用更少的资源进行训练。
- 大型网络的可解释性 – 库马尔对通过注意力模式理解神经网络权重感兴趣,并为深度学习调试工具做出了贡献。
这些贡献为Adept旗舰模型架构的设计提供了信息,也反映了他使AI代理不仅智能而且可靠和安全的目标。
认可与奖项
库马尔的工作获得了多个专业、学术和社区的认可:
- 因提议的跨任务技能迁移项目获得Google研究奖学金(2016年)。
- 因在“Semantic Instance Segmentation in Instance”上的工作获得国际学习表征会议(ICLR)最佳论文奖。
- 被MIT Technology Review评为2021年AI领域新星。
他被广泛接受为顶级会议(包括NeurIPS、IMLS和ACL)的受邀演讲者,并曾担任斯坦福大学AI实验室的导师。
出版物与演讲活动
库马尔发表了30多篇同行评审论文,累计获得数千次引用。他引用最多的作品包括《Machine Learning Study》和广泛教授的论文《Vision-Language Models: A Practical Guide》。
他的学术形象使他成为会议巡回演讲的常客。他曾担任主要会议的项目委员会成员,并在华盛顿特区AI峰会上担任生成式AI的专题小组成员。他仍然是多家AI初创公司和学术机构的顾问,包括Berkeley AI Research。
个人生活与公众形象
库马尔及所有其他公开细节均保持私密。他有一个[Twitter]账户,但很少与个人读者互动。他以安静、协作和技术型领导者著称,强调研发而非宣传。
截至2025年3月,库马尔继续担任Adept的首席技术官,并积极参与日常工程工作。他正在驳斥AI将取代工作的说法,坚持认为下一代将由AI增强的协作来定义。
参考文献
- “Learning to Play with Transformers” – 2020年。
- “Beyond the Transformer: HTTPS and the Roadmap” – 2021年。
- “Vision-Language Models for Active Tasks” – 2022年。
- “The Failure of a Softmax Infusion” – 2023年,可在ArXiv上获取。
这篇百科文章面向中立受众,代表了截至2025年库马尔生活的不断演变的图景。