Norman Paul Jouppi ist ein US-amerikanischer Elektroingenieur und Informatiker, der derzeit als Vice President und Engineering Fellow bei Google tätig ist. Er ist vor allem als technischer Leiter für Googles Tensor Processing Units (TPUs) seit deren Einführung im Jahr 2013 bekannt, die zu einem zentralen Bestandteil der künstlichen Intelligenz-Infrastruktur geworden sind. Seine Karriere umfasst Jahrzehnte von Beiträgen zur Computerarchitektur, einschließlich bahnbrechender Arbeiten zu Speicherhierarchien und heterogener Verarbeitung.
Jouppis Forschungs- und Ingenieursbemühungen haben sowohl das akademische Verständnis als auch die industrielle Praxis im Bereich des Hochleistungsrechnens geprägt. Er hält über 100 US-Patente und hat zahlreiche Auszeichnungen erhalten, darunter den Eckert-Mauchly Award und den IEEE Seymour Cray Computer Engineering Award.
Frühe Karriere und Ausbildung
Jouppi erwarb 1980 seinen Master-Abschluss in Elektrotechnik an der Northwestern University und 1984 einen PhD von der Stanford University. Während seiner Doktorandenzeit war er einer der Computerarchitekten am MIPS Stanford University Project, einer frühen RISC-Initiative unter der Leitung von John L. Hennessy. Diese Arbeit trug zum grundlegenden Design der Reduced Instruction Set Computing bei, das später viele kommerzielle Prozessoren beeinflusste.
Nach Abschluss seines PhD trat Jouppi 1984 dem Western Research Laboratory von Digital Equipment Corporation bei. Er blieb dort durch die Übergänge des Unternehmens und arbeitete bis 2002 bei Compaq und dann bei Hewlett-Packard. Bei HP leitete er von 2006 bis 2008 das Advanced Architecture Lab bei HP Labs in Palo Alto, gefolgt vom Exascale Computing Lab von 2008 bis 2010 und dem Intelligent Infrastructure Lab von 2010 bis 2011.
Beiträge zur Computerarchitektur
Jouppi war Pionier bei mehreren wichtigen Entwicklungen in Speicherhierarchien. Er führte das Konzept der Victim-Buffer ein, die Cache-Fehlschlagsstrafen reduzieren, sowie Prefetching-Stream-Buffer, die Datenbedarf vorwegnehmen. Er förderte auch mehrstufiges exklusives Caching, eine Technik, die Datenverdopplung über Cache-Ebenen vermeidet. Diese Innovationen verbesserten die Leistung von neuronalen Netzwerk-Trainings- und Inferenzsystemen, die stark von Speicherbandbreite abhängig sind.
Er entwickelte den CACTI-Simulator, ein weit verbreitetes Werkzeug zur Modellierung von Cache-Zeit, -Fläche und -Leistung. Dieser Simulator wurde in akademischen und industriellen Umgebungen zum Standard für die Bewertung von Speicherdesigns. Jouppi erforschte auch heterogene Architekturen, einschließlich Single-ISA-heterogener Systeme, bei denen Kerne mit unterschiedlichen Fähigkeiten denselben Befehlssatz teilen, was effizientere Leistungs- und Energieabwägungen ermöglicht.
Im Laufe seiner Karriere war er Hauptarchitekt von vier Mikroprozessoren und trug zu Grafikbeschleunigern bei. Seine Arbeit erstreckte sich auch auf Telepräsenztechnologie und die Anwendung von Nanophotonik in der Informatik, Bereiche, die schnellere Datenübertragung und reduzierten Energieverbrauch versprechen.
Google und Tensor Processing Units
2011 trat Jouppi als Computeringenieur bei Google ein. 2013 wurde er technischer Leiter des Tensor Processing Unit-Projekts, das darauf abzielte, maschinelles Lernen-Workloads zu beschleunigen. Die erste TPU wurde 2015 eingesetzt und in Googles Rechenzentren für Aufgaben wie die Rangfolge von Suchergebnissen und die Unterstützung von Deep-Learning-Modellen verwendet. Nachfolgende Generationen von TPUs wurden in Google Cloud-Dienste integriert, die es externen Entwicklern ermöglichen, große Modelle zu trainieren und auszuführen.
Die TPU-Architektur ist für Matrixoperationen optimiert, die in Transformer-Modellen üblich sind, die moderne Large-Language-Model-Systeme untermauern. Jouppis Führung half, diese Chips von Forschungsprototypen zu Produktionssystemen zu skalieren, die Milliarden von Benutzern unterstützen. Seine Arbeit war maßgeblich daran beteiligt, generative KI-Anwendungen in großem Maßstab praktikabel zu machen.
Auszeichnungen und Anerkennung
Jouppi erhielt 2015 den Eckert-Mauchly Award für Beiträge zum Design und zur Analyse von Hochleistungsprozessoren und Computerspeichersystemen. Er wurde 2002 zum Hewlett Packard Fellow, 2003 zum IEEE Fellow und 2007 zum ACM Fellow ernannt. Die ACM verlieh ihm 2013 den Alan D. Berenbaum Distinguished Service Award.
2014 erhielt er den Harry H. Goode Memorial Award und wurde in die National Academy of Engineering gewählt. 2019 wurde er Fellow der AAAS und 2024 erhielt er den IEEE Seymour Cray Computer Engineering Award. Von 2007 bis 2011 leitete er ACMs SIGARCH, die Interessengruppe für Computerarchitektur.
Akademischer und beruflicher Dienst
Jouppi war von 1984 bis 1996 als beratender Assistenz- oder außerordentlicher Professor an der Stanford University tätig. Er war in den Redaktionsausschüssen von Communications of the ACM und IEEE Computer Architecture Letters. Seine Mentorschaft und sein Dienst haben eine Generation von Computerarchitekten beeinflusst. Seine Arbeit prägt weiterhin die Schnittstelle von Hardware und maschinellem Lernen, mit Auswirkungen auf AMD, Intel und andere Chiphersteller.
Seine Beiträge zu Cerebras- und Groq-artigen Beschleunigern sind indirekt, aber seine grundlegende Forschung informiert ihre Designs. Stand 2024 bleibt Jouppi aktiv bei Google, wo seine TPU-Führung weiterhin Fortschritte in der künstlichen Intelligenz-Hardware vorantreibt.