桑杰·拉乔帕德耶是科罗拉多州立大学的计算机科学教授，他在那里领导着关于多面体编译及其在机器学习系统中应用的研究。他的工作聚焦于循环变换的数学基础，这对于在现代并行和加速器硬件上优化代码至关重要。拉乔帕德耶自1980年代以来一直活跃在该领域，为脉动阵列设计的理论与实践以及后来用于深度学习框架的编译技术做出了贡献。
拉乔帕德耶的研究架起了理论计算机科学与实际系统工程之间的桥梁。他最为人所知的贡献是多面体模型，这是一种用于表示和变换程序中嵌套循环的框架。该模型支撑了许多高性能计算领域的现代编译器，包括用于Machine learning加速器的编译器。他在科罗拉多州立大学的团队开发了多种工具和算法，以提高针对多核CPU、GPU以及如AMD和Intel等专用硬件的代码生成效率。
早期生涯与教育
拉乔帕德耶于1986年在犹他大学获得计算机科学博士学位，师从理查德·M·藤原。他的博士论文聚焦于脉动阵列，这是1980年代盛行的一类并行计算架构。获得博士学位后，他曾在俄勒冈大学和法国国家信息与自动化研究所（INRIA）任职，期间与研究人员合作开发了Alpha语言，这是一种用于描述和综合规则阵列算法的函数式语言。
1995年，拉乔帕德耶加入科罗拉多州立大学任教。在接下来的几十年里，他建立了一个以多面体模型研究闻名的小组。他指导了众多博士生，其中包括乌代·邦杜古拉，后者后来共同开发了PLUTO多面体编译器；其他学生则在学术界和工业界取得了成就。
多面体编译研究
拉乔帕德耶的核心贡献在于多面体编译领域，该领域利用数学表示来对循环嵌套进行系统化优化。他与邦杜古拉等人于2008年合作发表的论文介绍了PLUTO编译器，该编译器能够利用多面体模型自动实现循环的并行化和分块。这篇论文发表于ACM SIGPLAN编程语言设计与实现会议（PLDI）上，并在编译器社区中被广泛引用。
他的研究还涉及内存布局优化和数据局部性问题，这对于在现代分层内存系统上获得高性能至关重要。2013年，他发表了关于为模板计算推导高效分块方案的研究成果，模板计算是科学计算和Deep learning工作负载中的常见模式。这些技术已被多个开源和商业编译器采用，包括Google DeepMind及其他AI研究机构所使用的编译器。
在机器学习系统中的应用
在2010年代，拉乔帕德耶将研究兴趣转向多面体编译与Artificial intelligence系统的交叉领域。他认识到Neural network训练和推理中的计算核心（如矩阵乘法和卷积）可以受益于科学计算中使用的循环变换技术。他的团队开发了优化TensorFlow和PyTorch等框架中张量操作的方法，重点是减少内存流量和提高并行性。
其中一个 notable 项目是为Large language model推理开发基于多面体的优化器，该优化器能够降低服务器级硬件的延迟。这项工作涉及与Nokia Bell Labs和Samsung Research研究人员的合作，拉乔帕德耶曾在那里担任访问科学家。他的见解影响了AWS Trainium及其他专用AI芯片的编译栈设计，尽管他并未直接受雇于这些公司。
教学与指导
在科罗拉多州立大学，拉乔帕德耶教授编译器、并行计算和计算理论等课程。他以严谨的教学风格和对数学基础的重视而闻名。他多次获得教学奖项，包括2017年的自然科学学院卓越教学奖。他还指导了博士后研究员和访问学者，他们来自University of Toronto和BAIR (Berkeley AI Research)等机构。
他的学生们在各自领域取得了显著成就。例如，邦杜古拉成为印度科学院的教授，继续从事多面体编译研究。另一位前学生阿尔伯特·陈曾与拉乔帕德耶合作研究Alpha语言，后来成为Google Cloud的研究科学家，致力于AI工作负载的编译器基础设施。
主要出版物与荣誉
拉乔帕德耶发表了超过100篇同行评审论文，其中许多发表在PLDI、国际架构支持与编程语言及操作系统会议（ASPLOS）以及ACM编程语言与系统 Transactions 等顶级会议和期刊上。他2008年关于PLUTO的论文被引用超过1000次，是多面体编译领域最具影响力的工作之一。
2015年，他因对编译器优化的贡献当选为计算机协会（ACM）高级会员。他曾在多个会议的程序委员会任职，包括国际编译器构建会议和IEEE国际并行与分布式处理研讨会。他还曾在高性能计算和机器学习系统相关的研讨会上担任主旨演讲人。
当前工作与未来方向
截至2024年，拉乔帕德耶继续在科罗拉多州立大学领导研究，重点关注为结合CPU、GPU和AI加速器的异构系统进行编译的挑战。他近期的项目包括开发多面体模型中的自动微分技术，这可能提高Transformer (architecture)模型训练的效率。他还在探索如何将多面体方法应用于Generative AI工作负载，其中大型模型的内存需求对编译提出了重大挑战。
拉乔帕德耶与工业实验室保持积极合作，包括Oracle Cloud Infrastructure和Coreweave，他的团队在这些平台上测试了新的编译策略。他的工作持续弥合理论计算机科学与现代机器学习系统实际需求之间的鸿沟。