威廉·比尔·达利是美国计算机科学家,现任英伟达首席科学家。英伟达是图形处理单元(GPU)和加速计算领域的领先公司。他因在并行计算方面的开创性贡献而广受认可,包括早期大规模并行超级计算机的设计以及高性能互连网络关键技术的开发。他的工作对现代计算产生了深远影响,尤其是在人工智能和机器学习领域,其中GPU对于训练大型模型至关重要。
达利的研究架起了学术理论与工业实践之间的桥梁,影响了世界上许多最快超级计算机及其处理器的架构。作为英伟达首席科学家,他帮助指导了公司在开发硬件和软件方面的战略,这些硬件和软件广泛应用于从科学模拟到深度学习和生成式AI的各个领域。
早年生活与教育
比尔·达利出生于美国。他在弗吉尼亚理工学院暨州立大学获得电气工程学士学位。随后,他在斯坦福大学攻读研究生,并获得计算机科学硕士和博士学位。他的博士研究专注于VLSI处理器架构的设计,这为他后来对并行系统的兴趣奠定了基础。
完成博士学位后,达利在贝尔实验室工作,这是一家著名的工业研究机构,他在那里为早期微处理器设计的开发做出了贡献。这段经历使他对构建高性能计算系统的实际挑战有了宝贵的见解。
学术生涯与并行计算研究
达利的学术生涯始于麻省理工学院(MIT)教授,他是麻省理工学院计算机科学与人工智能实验室的成员。在MIT,他领导了J-Machine的开发,这是一台实验性并行计算机,探索了消息传递和细粒度并行性的新方法。该项目在展示大规模并行架构的潜力方面具有影响力。
1997年,达利转到斯坦福大学,成为电气工程与计算机科学教授,并后来担任计算机科学系主任。在斯坦福,他指导了斯坦福AI实验室在计算机架构方面的相关工作,并领导了斯坦福并发VLSI架构小组。他的研究团队开发了Imagine流处理器,该项目探索了媒体处理和数据并行计算,并为互连网络的设计做出了重要贡献,包括开发了“虫洞路由”技术和“虚拟通道”流量控制机制。这些创新成为高性能计算集群和超级计算机中的标准。
达利的教科书《互连网络的原理与实践》与布莱恩·托尔斯合著,是该领域的标准参考书。他的工作获得了众多奖项的认可,包括ACM莫里斯·威尔克斯奖和IEEE西摩·克雷计算机工程奖。
在英伟达的职业生涯
达利于2009年加入英伟达担任首席科学家,同时保留斯坦福大学的兼职教授职位。在英伟达,他在塑造公司GPU架构方面发挥了重要作用,该架构已从面向图形的处理器演变为通用并行计算引擎。他的领导对于CUDA的开发至关重要,CUDA是英伟达用于GPU通用计算的编程模型,并且对于设计连续多代GPU也至关重要,这些GPU显著提升了科学和AI工作负载的性能。
在达利的技术指导下,英伟达GPU已成为训练和部署神经网络的主导平台。GPU的大规模并行性,拥有数千个核心,非常适合支撑深度学习的矩阵运算。这使得英伟达成为从事大型语言模型和其他AI系统的公司和研究实验室的关键供应商,包括OpenAI、Google DeepMind等。达利还积极倡导节能计算,强调减少AI训练和推理功耗的必要性。
对AI和高性能计算的贡献
达利的工作为当前的AI热潮奠定了基础。他开创的并行计算技术直接适用于驱动现代AI的硬件。他关于高效数据移动和通信的研究有助于解决“内存墙”问题,即处理器与内存之间数据传输速度限制性能的问题。
他还为AI专用硬件的开发做出了贡献,例如张量核心,这些核心旨在加速Transformer和其他神经网络架构中使用的矩阵乘法。他对“加速计算”的愿景促成了GPU集成到世界上最大的超级计算机中,如Frontier和Fugaku,这些计算机用于从气候建模到药物发现等领域的科学研究。
达利发表了超过250篇论文,并拥有100多项专利。他是IEEE、ACM和美国艺术与科学学院的会士。他获得了ACM埃克特-莫奇利奖和美国国家工程院查尔斯·斯塔克·德雷珀奖等奖项。
遗产与影响
比尔·达利的影响力超越了他的直接技术贡献。他指导了一代计算机架构师,其中许多人后来在主要科技公司和大学领导研究工作。他强调将严谨的学术研究与实际工程相结合,这有助于塑造计算机架构研究的文化。
随着AI的持续发展,达利在并行计算和节能设计方面的工作将保持关键性。他在英伟达的领导地位使他处于AI硬件持续革命的中心,确保未来突破的计算基础坚实且可持续。他的职业生涯体现了基础研究与变革性工业影响之间的深层联系。