Norman Paul Jouppi é um engenheiro eletricista e cientista da computação americano, atualmente atuando como Vice-Presidente e Engenheiro Fellow na Google. Ele é mais conhecido como o líder técnico das Unidades de Processamento Tensor (TPUs) da Google desde sua criação em 2013, que se tornaram centrais para a infraestrutura de inteligência artificial. Sua carreira abrange décadas de contribuições à arquitetura de computadores, incluindo trabalho pioneiro em hierarquias de memória e processamento heterogêneo.
A pesquisa e os esforços de engenharia de Jouppi moldaram tanto a compreensão acadêmica quanto a prática industrial em computação de alto desempenho. Ele detém mais de 100 patentes nos EUA e recebeu diversos prêmios, incluindo o Eckert-Mauchly Award e o IEEE Seymour Cray Computer Engineering Award.
Início de Carreira e Educação
Jouppi obteve seu mestrado em engenharia elétrica pela Northwestern University em 1980 e um doutorado pela Universidade de Stanford em 1984. Durante seus estudos de doutorado, ele foi um dos arquitetos de computadores no Projeto MIPS da Universidade de Stanford, uma iniciativa inicial de RISC liderada por John L. Hennessy. Este trabalho contribuiu para o design fundamental da computação com conjunto de instruções reduzido, que mais tarde influenciou muitos processadores comerciais.
Após concluir seu doutorado, Jouppi ingressou no Western Research Laboratory da Digital Equipment Corporation em 1984. Ele permaneceu lá através das transições da empresa, trabalhando na Compaq e depois na Hewlett-Packard até 2002. Na HP, ele liderou o Advanced Architecture Lab no HP Labs em Palo Alto de 2006 a 2008, seguido pelo Exascale Computing Lab de 2008 a 2010 e pelo Intelligent Infrastructure Lab de 2010 a 2011.
Contribuições à Arquitetura de Computadores
Jouppi foi pioneiro em vários desenvolvimentos-chave em hierarquias de memória. Ele introduziu o conceito de buffers de vítima, que reduzem as penalidades de falhas de cache, e buffers de fluxo com pré-busca que antecipam as necessidades de dados. Ele também avançou o cacheamento exclusivo de múltiplos níveis, uma técnica que evita a duplicação de dados entre níveis de cache. Essas inovações melhoraram o desempenho de sistemas de rede neural para treinamento e inferência que dependem fortemente da largura de banda de memória.
Ele desenvolveu o simulador CACTI, uma ferramenta amplamente usada para modelar tempo, área e potência de caches. Este simulador tornou-se padrão em ambientes acadêmicos e industriais para avaliar designs de memória. Jouppi também explorou arquiteturas heterogêneas, incluindo sistemas heterogêneos de ISA única, onde núcleos com diferentes capacidades compartilham o mesmo conjunto de instruções, permitindo trocas mais eficientes entre potência e desempenho.
Ao longo de sua carreira, ele atuou como arquiteto principal de quatro microprocessadores e contribuiu para aceleradores gráficos. Seu trabalho também se estendeu à tecnologia de telepresença e à aplicação de nanofotônica em computação, áreas que prometem transmissão de dados mais rápida e consumo de energia reduzido.
Google e Unidades de Processamento Tensor
Em 2011, Jouppi ingressou na Google como engenheiro de computação. Em 2013, ele se tornou o líder técnico do projeto da Unidade de Processamento Tensor, que visava acelerar cargas de trabalho de aprendizado de máquina. A primeira TPU foi implantada em 2015 e usada nos data centers da Google para tarefas como classificar resultados de busca e alimentar modelos de aprendizado profundo. Gerações subsequentes de TPUs foram integradas aos serviços de Google Cloud, permitindo que desenvolvedores externos treinem e executem modelos grandes.
A arquitetura da TPU é otimizada para operações de matriz comuns em modelos transformadores, que sustentam sistemas modernos de modelo de linguagem de grande escala. A liderança de Jouppi ajudou a escalar esses chips de protótipos de pesquisa para sistemas de produção que suportam bilhões de usuários. Seu trabalho foi fundamental para tornar aplicações de IA generativa práticas em escala.
Prêmios e Reconhecimento
Jouppi recebeu o Eckert-Mauchly Award em 2015 por contribuições ao design e análise de processadores de alto desempenho e sistemas de armazenamento de computadores. Ele foi nomeado Hewlett Packard Fellow em 2002, IEEE Fellow em 2003 e ACM Fellow em 2007. A ACM concedeu-lhe o Alan D. Berenbaum Distinguished Service Award em 2013.
Em 2014, ele recebeu o Harry H. Goode Memorial Award e foi eleito para a Academia Nacional de Engenharia. Ele se tornou Fellow da AAAS em 2019 e recebeu o IEEE Seymour Cray Computer Engineering Award em 2024. De 2007 a 2011, ele presidiu o SIGARCH da ACM, o grupo de interesse especial em arquitetura de computadores.
Serviço Acadêmico e Profissional
Jouppi atuou como professor assistente ou associado consultor na Universidade de Stanford de 1984 a 1996. Ele esteve nos conselhos editoriais da Communications of the ACM e do IEEE Computer Architecture Letters. Sua mentoria e serviço influenciaram uma geração de arquitetos de computadores. Seu trabalho continua a moldar a interseção entre hardware e aprendizado de máquina, com implicações para AMD, Intel e outros fabricantes de chips.
Suas contribuições para aceleradores do estilo Cerebras e Groq são indiretas, mas sua pesquisa fundamental informa seus designs. Em 2024, Jouppi permanece ativo na Google, onde sua liderança em TPUs continua a impulsionar avanços em hardware de inteligência artificial.