Norman Paul Jouppi est un ingénieur électricien et informaticien américain, actuellement vice-président et ingénieur fellow chez Google. Il est surtout connu comme responsable technique des unités de traitement tensoriel (TPU) de Google depuis leur création en 2013, qui sont devenues centrales pour l'infrastructure de l'intelligence artificielle. Sa carrière s'étend sur des décennies de contributions à l'architecture des ordinateurs, y compris des travaux pionniers sur les hiérarchies de mémoire et le traitement hétérogène.
Les efforts de recherche et d'ingénierie de Jouppi ont façonné à la fois la compréhension académique et la pratique industrielle dans le calcul haute performance. Il détient plus de 100 brevets américains et a reçu de nombreux prix, notamment le prix Eckert-Mauchly et le prix IEEE Seymour Cray en ingénierie informatique.
Début de carrière et éducation
Jouppi a obtenu sa maîtrise en génie électrique à l'université Northwestern en 1980 et un doctorat à l'université Stanford en 1984. Pendant ses études doctorales, il était l'un des architectes informatiques du projet MIPS de l'université Stanford, une initiative RISC précoce dirigée par John L. Hennessy. Ce travail a contribué à la conception fondamentale du calcul à jeu d'instructions réduit, qui a ensuite influencé de nombreux processeurs commerciaux.
Après avoir terminé son doctorat, Jouppi a rejoint le laboratoire de recherche occidental de Digital Equipment Corporation en 1984. Il y est resté à travers les transitions de l'entreprise, travaillant chez Compaq puis chez Hewlett-Packard à partir de 2002. Chez HP, il a dirigé le laboratoire d'architecture avancée chez HP Labs à Palo Alto de 2006 à 2008, suivi du laboratoire de calcul exascale de 2008 à 2010 et du laboratoire d'infrastructure intelligente de 2010 à 2011.
Contributions à l'architecture des ordinateurs
Jouppi a été pionnier dans plusieurs développements clés des hiérarchies de mémoire. Il a introduit le concept de tampons de victimes, qui réduisent les pénalités de défaut de cache, et de tampons de flux de prélecture qui anticipent les besoins en données. Il a également fait progresser la mise en cache exclusive multi-niveaux, une technique qui évite la duplication des données entre les niveaux de cache. Ces innovations ont amélioré les performances des systèmes d'entraînement et d'inférence de réseaux neuronaux qui dépendent fortement de la bande passante mémoire.
Il a développé le simulateur CACTI, un outil largement utilisé pour modéliser le temps, la surface et la puissance des caches. Ce simulateur est devenu standard dans les environnements académiques et industriels pour évaluer les conceptions de mémoire. Jouppi a également exploré les architectures hétérogènes, y compris les systèmes hétérogènes à ISA unique où des cœurs avec des capacités différentes partagent le même jeu d'instructions, permettant des compromis plus efficaces entre puissance et performance.
Tout au long de sa carrière, il a été architecte principal de quatre microprocesseurs et a contribué aux accélérateurs graphiques. Son travail s'est également étendu à la technologie de téléprésence et à l'application de la nanophotonique dans le calcul, des domaines qui promettent une transmission de données plus rapide et une consommation d'énergie réduite.
Google et unités de traitement tensoriel
En 2011, Jouppi a rejoint Google en tant qu'ingénieur informatique. En 2013, il est devenu le responsable technique du projet d'unité de traitement tensoriel, qui visait à accélérer les charges de travail de apprentissage automatique. La première TPU a été déployée en 2015 et utilisée dans les centres de données de Google pour des tâches comme le classement des résultats de recherche et l'alimentation de modèles de apprentissage profond. Les générations suivantes de TPU ont été intégrées aux services Google Cloud, permettant aux développeurs externes d'entraîner et d'exécuter de grands modèles.
L'architecture des TPU est optimisée pour les opérations matricielles courantes dans les modèles transformers, qui sous-tendent les systèmes modernes de grands modèles de langage. Le leadership de Jouppi a aidé à faire évoluer ces puces de prototypes de recherche à des systèmes de production qui soutiennent des milliards d'utilisateurs. Son travail a été essentiel pour rendre les applications de IA générative pratiques à grande échelle.
Prix et reconnaissance
Jouppi a reçu le prix Eckert-Mauchly en 2015 pour ses contributions à la conception et à l'analyse de processeurs haute performance et de systèmes de stockage informatique. Il a été nommé Hewlett Packard Fellow en 2002, IEEE Fellow en 2003 et ACM Fellow en 2007. L'ACM lui a décerné le prix Alan D. Berenbaum pour service distingué en 2013.
En 2014, il a reçu le prix commémoratif Harry H. Goode et a été élu à l'Académie nationale d'ingénierie. Il est devenu Fellow de l'AAAS en 2019 et a reçu le prix IEEE Seymour Cray en ingénierie informatique en 2024. De 2007 à 2011, il a présidé le SIGARCH de l'ACM, le groupe d'intérêt spécial sur l'architecture des ordinateurs.
Service académique et professionnel
Jouppi a été professeur assistant ou associé consultant à l'université Stanford de 1984 à 1996. Il a fait partie des comités éditoriaux de Communications of the ACM et de IEEE Computer Architecture Letters. Son mentorat et son service ont influencé une génération d'architectes informatiques. Son travail continue de façonner l'intersection du matériel et de l'apprentissage automatique, avec des implications pour AMD, Intel et d'autres fabricants de puces.
Ses contributions aux accélérateurs de type Cerebras et Groq sont indirectes, mais ses recherches fondamentales informent leurs conceptions. En 2024, Jouppi reste actif chez Google, où son leadership sur les TPU continue de stimuler les avancées dans le matériel d'intelligence artificielle.