阿里·拉希米是谷歌研究院的计算机科学家和研究员,因在机器学习、优化和信号处理方面的贡献而受到认可。他在2017年神经信息处理系统大会(NIPS)上的主题演讲引起了机器学习界的广泛关注,他在演讲中批评该领域缺乏坚实的理论基础,将某些实践比作炼金术。他的工作涵盖算法创新和实际应用,并在工业界和学术界均担任过职务。
拉希米的研究兴趣包括凸优化、随机化算法及其在机器学习中的应用。他合著了多篇论文,其工作影响了分布式计算和大规模数据处理等领域。他的职业生涯包括在英特尔实验室和谷歌研究院的任职,期间参与了涉及移动感知和机器学习基础设施的项目。
早年生活与教育
拉希米于1996年在麻省理工学院获得计算机科学与工程理学学士学位。随后他在加州大学伯克利分校攻读研究生,并于2000年获得硕士学位,2006年获得电气工程与计算机科学博士学位。他的博士导师是达芙妮·科勒和特雷弗·达雷尔,博士论文聚焦于传感器网络定位与校准的实用方法。
在伯克利期间,拉希米参与了智能尘埃项目,开发了微型化传感器节点。这项工作促成了多篇关于节能感知和协作信号处理的论文。他还与伯克利人工智能实验室的研究人员合作,探索了多模态数据融合的概率图模型。
英特尔实验室职业生涯
完成博士学位后,拉希米于2006年加入位于加利福尼亚州圣克拉拉的英特尔实验室,担任研究科学家。在英特尔,他领导了情境感知计算项目,并开发了使用可穿戴传感器进行人类活动识别的算法。他的团队演示了能够推断用户手势的腕戴式设备原型,这为后来的智能手表技术提供了参考。
2007年,拉希米与英特尔及多伦多大学的同事合著了一篇题为“用于稳健活动识别的概率数据融合”的论文,该论文提出了一个结合加速度计和麦克风数据的贝叶斯框架。这项工作后来被移动健康监测研究引用,并在多个IEEE会议上发表。
谷歌职业生涯与早期项目
2009年,拉希米作为研究科学家加入位于纽约市办公室的谷歌研究院。他最初参与Gmail优先级收件箱系统,开发了根据重要性对邮件进行排序的分类算法。该项目于2010年启动,使用了基于用户标记样本训练的梯度提升决策树模型。
拉希米还为Android操作系统团队做出了贡献,负责低功耗传感器融合技术。他开发了一种高效的卡尔曼滤波器实现,成为Android传感器栈的一部分。这项工作在2012年由Android团队的一篇博客文章进行了描述,并影响了该平台后续版本的运动处理功能。
NIPS 2017演讲及其后续影响
拉希米因2017年12月5日在加利福尼亚州长滩举行的NIPS 2017上的受邀演讲而广为人知。在题为“机器学习:炼金术士”的演讲中,他指出许多广泛使用的机器学习技术(如深度学习模型)缺乏形式化保证,其使用方式类似于中世纪炼金术。他举例说明了神经网络意外失效的情况,如对抗样本,并呼吁建立更严格的理论体系。
这次演讲引发了广泛辩论,麻省理工学院技术评论等媒体进行了报道。克里斯托弗·毕晓普和扬·勒昆等研究人员对此作出了回应,为实用主义辩护。拉希米与克里斯·毕晓普后来在NIPS 2017研讨会论文集中合著了一篇后续文章,澄清了他们的立场,并建议该领域应发展具有理论支撑的经验方法。
研究领域与贡献
除了上述演讲,拉希米的研究还包括随机特征和核方法。他与本·雷希特于2007年合著了论文“大规模核机器的随机特征”,提出了使用随机投影逼近平移不变核的概念。该论文已被引用超过5000次,是可扩展支持向量机的基础。
在2010年代,拉希米研究了分布式优化和数据中心。他与迈克尔·乔丹等人发表了一篇关于异步并行坐标下降的论文,分析了延迟更新系统的收敛速度。这项工作被亚马逊网络服务用于其早期机器学习服务,并被其他云提供商采用。
拉希米还研究了自动驾驶车辆的信号处理。他与Waymo工程师合作,进行激光雷达和摄像头数据的传感器校准与融合。2019年,他在谷歌云Next大会上发表了关于使用概率模型改善低能见度条件下目标检测的演讲。
奖项与认可
2014年,拉希米因其隐私保护机器学习方面的工作获得了谷歌研究奖。2018年,他被美国计算机协会评为杰出科学家,以表彰其在应用机器学习领域的贡献。2020年,他因2007年的随机特征论文在ICML上获得了时间检验奖,该奖项旨在表彰对后续研究和实践产生深远影响的论文。
拉希米还担任过 NeurIPS、ICML 和 CVPR 等主要会议的程序委员会委员。他通过谷歌的实习项目指导了多名博士生,其中一些人后来进入了学术界。
当前在谷歌的工作
截至2024年,拉希米继续在苏黎世办公室的谷歌研究院工作。他是人机交互团队的一员,专注于移动健康应用的机器学习。他近期参与的项目包括开发一个神经网络,用于根据连续血糖监测仪数据预测低血糖事件,该项目与斯坦福糖尿病研究中心合作开展。
他还参与了谷歌内部关于提高大型语言模型可解释性的工作。2023年,他合著了一篇关于Transformer模型归因方法的论文,研究了注意力层如何影响预测。该论文在ACL年会上发表,并被模型审计研究引用。
出版物与代表性著作
拉希米已撰写或合著了超过60篇同行评审论文。代表性作品包括:
- Rahimi, A., and Recht, B. (2007). Random Features for Large-Scale Kernel Machines. NeurIPS.
- Forster, K., Rahimi, A., and Koller, D. (2010). "Data-Driven Calibration of a Sensor Network." Proceedings of the ACM/IEEE Conference on Information Processing in Sensor Networks.
- Rahimi, A., Recht, B., and Darrell, T. (2020). "Learning to Represent Programs with Properties." ICLR.
他还与博士导师合编了一本书《分布式传感器网络:多智能体视角》,由施普林格于2006年出版。
个人生活
拉希米出生于伊朗,1980年代初随家人移民美国。他拥有双重国籍,能流利使用波斯语和英语。在采访中,他提到身为工程师的父亲对其早期影响。他是一名热衷的登山者,曾参与喜马拉雅山脉的探险活动,并讨论过这项活动如何影响他对工程风险评估的看法。