桑杰·拉乔帕德耶是科罗拉多州立大学的计算机科学教授，领导着关于多面体编译及其在机器学习系统中应用的研究。他的工作聚焦于循环变换的数学基础，这对于在现代并行和加速器硬件上优化代码至关重要。拉乔帕德耶自1980年代以来一直活跃在该领域，为脉动阵列设计的理论与实践以及后来深度学习框架中使用的编译技术做出了贡献。
拉乔帕德耶的研究弥合了理论计算机科学与实际系统工程之间的鸿沟。他最为人所知的是对多面体模型的贡献，这是一种表示和变换程序中嵌套循环的框架。该模型支撑着许多高性能计算的现代编译器，包括用于机器学习加速器的编译器。他在科罗拉多州立大学的研究团队开发了工具和算法，提高了为多核CPU、GPU以及AMD和英特尔等专用硬件生成代码的效率。
早期职业生涯与教育
拉乔帕德耶于1986年在犹他大学获得计算机科学博士学位，师从理查德·M·藤本。他的博士论文聚焦于脉动阵列，这是1980年代盛行的一类并行计算架构。完成博士学位后，他在俄勒冈大学和法国国家信息与自动化研究所（INRIA）任职，期间与研究人员合作开发了Alpha语言，这是一种用于指定和综合规则阵列算法的函数式语言。
1995年，拉乔帕德耶加入科罗拉多州立大学任教。在接下来的几十年里，他建立了一个以多面体模型研究著称的团队。他指导了众多博士生，包括后来共同开发PLUTO多面体编译器的乌代·邦杜古拉，以及其他人，他们后来在学术界和工业界取得了职业成就。
多面体编译研究
拉乔帕德耶的核心贡献在于多面体编译领域，该领域利用循环嵌套的数学表示来实现系统性优化。他在2008年与邦杜古拉等人合著的论文中介绍了PLUTO编译器，该编译器使用多面体模型自动并行化和分块循环。这项工作发表在ACM SIGPLAN编程语言设计与实现会议（PLDI）的论文集中，并在编译器社区中被广泛引用。
他的研究还涉及内存布局优化和数据局部性问题，这对于现代分层内存系统上的性能至关重要。2013年，他发表了关于为模板计算推导高效分块方案的工作，这是科学计算和深度学习工作负载中的常见模式。这些技术已被多个开源和商业编译器采用，包括谷歌深度思维和其他AI研究组织使用的编译器。
在机器学习系统中的应用
在2010年代，拉乔帕德耶将注意力转向多面体编译与人工智能系统的交叉领域。他认识到神经网络训练和推理中的计算内核，如矩阵乘法和卷积，可以受益于科学计算中使用的相同循环变换技术。他的团队开发了优化TensorFlow和PyTorch等框架中张量操作的方法，重点是减少内存流量和提高并行性。
一个值得注意的项目是为大型语言模型推理开发基于多面体的优化器，该优化器可降低服务器级硬件上的延迟。这项工作涉及与诺基亚贝尔实验室和三星研究院的研究人员合作，拉乔帕德耶曾在那里担任访问科学家。他的见解影响了AWS Trainium和其他专用AI芯片的编译栈设计，尽管他并未直接受雇于这些公司。
教学与指导
在科罗拉多州立大学，拉乔帕德耶教授编译器、并行计算和计算理论等课程。他以严谨的教学方法和强调数学基础而闻名。他多次获得大学教学奖项，包括2017年自然科学学院卓越教学奖。他还指导了来自多伦多大学和伯克利AI研究等机构的博士后研究员和访问学者。
他的学生已走向重要职位。例如，邦杜古拉成为印度科学院的教授，继续从事多面体编译研究。另一位前学生阿尔伯特·科恩曾与拉乔帕德耶合作开发Alpha语言，后来成为谷歌云的研究科学家，从事AI工作负载的编译器基础设施工作。
精选出版物与认可
拉乔帕德耶撰写了超过100篇同行评审论文，其中许多发表在PLDI、编程语言和操作系统架构支持国际会议（ASPLOS）以及ACM编程语言和系统汇刊等顶级场所。他2008年关于PLUTO的PLDI论文被引用超过1000次，使其成为多面体编译领域最具影响力的作品之一。
2015年，他因对编译器优化的贡献被选为计算机协会（ACM）高级会员。他曾担任众多会议的程序委员会委员，包括国际编译器构建会议和IEEE国际并行与分布式处理研讨会。他还曾在高性能计算和机器学习系统研讨会上担任主旨演讲者。
当前工作与未来方向
截至2024年，拉乔帕德耶继续在科罗拉多州立大学领导研究，专注于为结合CPU、GPU和AI加速器的异构系统编译所面临的挑战。他最近的项目包括开发多面体模型中的自动微分技术，这可能提高训练变换器模型的效率。他还在探索多面体方法如何应用于生成式AI工作负载，其中大型模型的内存需求对编译构成重大挑战。
拉乔帕德耶仍然是工业实验室的活跃合作者，包括甲骨文云和CoreWeave，他的团队在基于云的AI基础设施上测试了新的编译策略。他的工作继续弥合理论计算机科学与现代机器学习系统实际需求之间的差距。