诺曼·保罗·朱皮是美国电气工程师和计算机科学家，目前担任谷歌副总裁兼工程研究员。他最为人所知的是自2013年起担任谷歌张量处理单元（TPU）的技术负责人，这些单元已成为人工智能基础设施的核心。他的职业生涯跨越数十年，对计算机体系结构做出了贡献，包括在内存层次结构和异构处理方面的开创性工作。
朱皮的研究和工程努力塑造了高性能计算领域的学术理解和工业实践。他拥有超过100项美国专利，并获得了多项奖项，包括Eckert-Mauchly奖和IEEE Seymour Cray计算机工程奖。
早期职业与教育
朱皮于1980年在西北大学获得电气工程硕士学位，并于1984年在斯坦福大学获得博士学位。在博士研究期间，他是MIPS斯坦福大学项目的计算机架构师之一，这是由约翰·L·亨尼西领导的早期RISC项目。这项工作为精简指令集计算的基础设计做出了贡献，后来影响了许多商业处理器。
完成博士学位后，朱皮于1984年加入数字设备公司的西部研究实验室。他在公司转型期间一直留在那里，先后在康柏和惠普工作至2002年。在惠普，他于2006年至2008年领导了帕洛阿尔托惠普实验室的高级架构实验室，随后于2008年至2010年领导了千万亿次计算实验室，并于2010年至2011年领导了智能基础设施实验室。
对计算机体系结构的贡献
朱皮在内存层次结构方面开创了多项关键发展。他引入了牺牲缓冲区的概念，以减少缓存未命中惩罚，以及预取流缓冲区以预测数据需求。他还推进了多级独占缓存技术，避免跨缓存级别的数据重复。这些创新提高了严重依赖内存带宽的神经网络训练和推理系统的性能。
他开发了CACTI模拟器，这是一种广泛用于建模缓存时间、面积和功耗的工具。该模拟器已成为学术界和工业界评估内存设计的标准。朱皮还探索了异构架构，包括单一ISA异构系统，其中具有不同能力的核心共享相同的指令集，从而实现更高效的功耗和性能权衡。
在他的职业生涯中，他担任了四个微处理器的首席架构师，并为图形加速器做出了贡献。他的工作还扩展到远程呈现技术和计算中的纳米光子学应用，这些领域有望实现更快的数据传输和更低的能耗。
谷歌与张量处理单元
2011年，朱皮加入谷歌担任计算机工程师。2013年，他成为张量处理单元项目的技术负责人，该项目旨在加速机器学习工作负载。第一代TPU于2015年部署，并用于谷歌数据中心的任务，如搜索结果排名和深度学习模型的运行。后续几代TPU已集成到谷歌云服务中，使外部开发人员能够训练和运行大型模型。
TPU架构针对Transformer模型中常见的矩阵运算进行了优化，这些模型是现代大型语言模型系统的基础。朱皮的领导帮助将这些芯片从研究原型扩展到支持数十亿用户的生产系统。他的工作对于使生成式人工智能应用大规模实用化至关重要。
奖项与荣誉
朱皮于2015年获得Eckert-Mauchly奖，以表彰他在高性能处理器和计算机存储系统设计与分析方面的贡献。他于2002年被命名为惠普研究员，2003年成为IEEE会士，2007年成为ACM会士。ACM于2013年授予他Alan D. Berenbaum杰出服务奖。
2014年，他获得了Harry H. Goode纪念奖，并当选为美国国家工程院院士。他于2019年成为AAAS会士，并于2024年获得IEEE Seymour Cray计算机工程奖。从2007年到2011年，他担任ACM SIGARCH主席，即计算机体系结构特别兴趣小组。
学术与专业服务
朱皮于1984年至1996年在斯坦福大学担任咨询助理或副教授。他曾在《ACM通讯》和《IEEE计算机体系结构通讯》的编辑委员会任职。他的指导和贡献影响了一代计算机架构师。他的工作继续塑造硬件与机器学习的交汇点，对AMD、英特尔及其他芯片制造商具有影响。
他对Cerebras和Groq风格加速器的贡献是间接的，但他的基础研究为它们的设计提供了依据。截至2024年，朱皮仍在谷歌活跃，他的TPU领导力继续推动人工智能硬件的进步。