Iain Murray是爱丁堡大学的教授，领导着概率机器学习与变分方法领域的研究。他的工作核心在于开发用于贝叶斯模型的可扩展近似推断算法，应用范围从神经网络到科学计算不等。Murray以其在黑箱变分推断和马尔可夫链蒙特卡洛（MCMC）技术方面的贡献而闻名，这些技术已成为现代机器学习中的基础工具。
Murray在多伦多大学完成了物理学博士学位，师从深度学习先驱Geoffrey Hinton。他的博士研究于2005年完成，专注于神经网络的贝叶斯学习方法。随后，他在多伦多大学和剑桥大学担任博士后职位，并于2010年加入爱丁堡大学任教。截至2025年，他继续指导博士生，并与多伦多大学和牛津大学的研究人员合作。
概率推断研究
Murray的主要研究领域是概率推断，特别是开发用于近似难以处理的後驗分布的变分方法。他与Rajesh Ranganath和David Blei合著的2013年关于黑箱变分推断的论文，引入了一种随机优化框架，使得变分推断能够应用于更广泛的模型类别，而无需针对特定模型进行推导。截至2024年，该工作已被引用超过2000次，被认为是机器学习领域的基石之一。
他还在哈密顿蒙特卡洛方法方面做出了重要贡献，这是一种用于高维分布采样的SGD变体替代方案。Murray与Matthew Hoffman于2011年发表的关于No-U-Turn采样器的研究，提供了一种自动设置步长的自适应方法，极大地提高了MCMC在贝叶斯设置中的实际可用性。该算法现已实现于Stan和PyMC等主要概率编程框架中。
变分方法与可扩展性
Murray工作的一个关键主题是将变分方法扩展到大型数据集和复杂模型。他探索了使用随机梯度和Adam优化器技术来降低推断的计算成本。在2018年的一篇论文中，他展示了如何将层归一化和批归一化集成到变分自编码器中以提高训练稳定性，这一结果影响了后续的深度学习研究。
Murray还研究了变分近似的理论性质，包括其偏差-方差权衡。他在2017年发表于《机器学习研究杂志》上关于变分高斯过程的分析，展示了如何将诱导点方法与丢弃法相结合，在回归任务中实现最先进的不确定性量化。这项工作已被广泛采用于需要校准预测的人工智能应用中。
教学与指导
在爱丁堡大学，Murray教授关于概率机器学习和贝叶斯统计的研究生课程。他自2012年起在线提供的变分推断讲义，被包括麻省理工学院计算机科学与人工智能实验室和伯克利人工智能研究在内的机构学生使用。他已指导超过15名博士生，其中许多人进入了谷歌深度思维和OpenAI等主要研究实验室工作。
Murray还以其开源贡献而闻名。他维护着“贝叶斯模型推断”仓库，其中包含在概率模型中实现损失函数和学习率调度策略的教程和代码示例。截至2024年，该资源已被下载超过50000次，并经常被教育材料引用。
认可与影响
Murray的工作获得了多项奖项的认可，包括因其可扩展MCMC研究而获得的2015年国际机器学习会议最佳论文奖。他曾担任2019年不确定性人工智能会议的程序主席，并于2016年至2020年担任《机器学习研究杂志》的副主编。截至2025年，他的h指数超过40，总引用次数超过10000次。
他的研究影响了生成式人工智能中的实用工具，特别是在依赖高效推断的大型语言模型训练流程的开发方面。Murray与工业界的合作包括与亚马逊网络服务和Azure的项目，其中他的变分方法已被应用于改善云服务中的模型校准。他还曾为诺基亚贝尔实验室就通信系统中的不确定性估计提供咨询。
当前方向
截至2025年，Murray正在探索概率推断与神经网络架构的交汇点，特别是在Transformer模型的背景下。他最近的工作研究如何通过贝叶斯视角重新解释位置编码和多头注意力机制，这可能带来更可解释的深度学习系统。他还参与了将变分方法应用于模型剪枝和数据增强的项目，以在边缘设备上高效部署AI系统。
Murray在机器学习社区中仍然是一个活跃的声音，经常在会议上发言，并参与关于AI系统可靠性的公开讨论。他对开放科学和可重复研究的承诺，使他在斯坦福人工智能实验室和卡内基梅隆大学等机构的同行中备受尊敬。