Drew Hudson é um empreendedor de tecnologia e arquiteto de computadores, mais conhecido como cofundador da Groq, uma empresa especializada em hardware de inteligência artificial. Ele desempenhou um papel central no desenvolvimento da unidade de processamento de linguagem (LPU) da empresa, um processador projetado especificamente para a execução rápida e eficiente de modelos de linguagem de grande escala. Seu trabalho situa-se na interseção entre inteligência artificial e computação de alto desempenho, com foco em superar os gargalos de memória e largura de banda que limitam as unidades de processamento gráfico (GPUs) tradicionais em tarefas de inferência de IA.
A carreira de Hudson na indústria de semicondutores começou bem antes da fundação da Groq. Ele trabalhou anteriormente na Xerox PARC, onde adquiriu experiência em pesquisa de sistemas de computação, e depois na Nokia Bell Labs, contribuindo para projetos envolvendo design avançado de processadores. Esses papéis lhe proporcionaram uma base tanto em pesquisa teórica quanto em engenharia prática, que ele posteriormente aplicou à criação da arquitetura única da Groq.
Groq e a Unidade de Processamento de Linguagem
Em 2016, Hudson cofundou a Groq junto com uma equipe de engenheiros e pesquisadores, incluindo ex-colegas do projeto da Unidade de Processamento Tensorial (TPU) do Google. A empresa foi estabelecida com o objetivo de construir uma nova classe de processador que pudesse entregar desempenho determinístico e de baixa latência para cargas de trabalho de IA. O resultado foi a LPU, que usa uma abordagem definida por software para eliminar a necessidade de agendamento complexo de instruções, permitindo um modelo de execução mais simples e previsível.
A primeira geração da LPU foi fabricada usando um processo de 14 nanômetros, e versões subsequentes migraram para nós mais avançados. O hardware da Groq foi avaliado em velocidades de inferência significativamente mais rápidas do que muitas GPUs contemporâneas, particularmente para modelos baseados em transformadores. Por exemplo, em 2023, a Groq demonstrou inferência em tempo real de modelos de linguagem de grande escala a velocidades superiores a 100 tokens por segundo por usuário, um número que atraiu considerável atenção na comunidade de IA.
Contribuições Técnicas e Filosofia
Hudson tem sido um defensor vocal de uma mudança em relação à abordagem dominante centrada em GPU para aceleração de IA. Ele argumenta que as GPUs, embora versáteis, não são ideais para a natureza limitada por memória das cargas de trabalho de inferência, onde o movimento de dados frequentemente domina a computação. A LPU aborda isso usando uma quantidade massiva de memória estática de acesso aleatório (SRAM) no chip e uma arquitetura de streaming que mantém o fluxo contínuo de dados, reduzindo a dependência de memória externa mais lenta, como a HBM (memória de alta largura de banda).
Essa filosofia de design levou a várias conquistas técnicas notáveis. Os chips da Groq foram usados para executar modelos da OpenAI e da Anthropic em configurações de demonstração, mostrando sua capacidade de lidar com arquiteturas tanto de código aberto quanto proprietárias. Hudson também enfatizou a importância do desempenho determinístico, o que significa que o tempo para processar uma determinada entrada é consistente e previsível, algo crítico para aplicações em tempo real, como assistentes de voz e sistemas autônomos.
Impacto na Indústria e Parcerias
Sob a liderança técnica de Hudson, a Groq garantiu parcerias com grandes provedores de nuvem e empresas. Em 2024, a empresa anunciou uma colaboração com a Amazon Web Services para oferecer instâncias baseadas na LPU da Groq por meio do marketplace da AWS, permitindo que desenvolvedores acessem o hardware sem possuí-lo diretamente. Além disso, a Groq trabalhou com o Google Cloud em iniciativas conjuntas de pesquisa, embora os detalhes desses projetos não tenham sido totalmente divulgados.
A empresa também recebeu financiamento significativo, levantando mais de US$ 300 milhões em suas rodadas iniciais, com investidores incluindo a Intel Capital e o Samsung Catalyst Fund. Esses investimentos apoiaram a expansão da produção da Groq e o crescimento de sua pilha de software, que inclui um compilador e um runtime que convertem modelos de frameworks como PyTorch e TensorFlow em instruções compatíveis com a LPU.
Reconhecimento e Direções Futuras
As contribuições de Hudson foram reconhecidas por meio de vários prêmios da indústria, incluindo sua inclusão em listas de figuras influentes em hardware de IA. Ele falou em conferências importantes, como o Simpósio Internacional de Arquitetura de Computadores (ISCA) e a conferência de Sistemas de Processamento de Informação Neural (NeurIPS), onde apresentou artigos sobre o design e o desempenho da LPU.
Olhando para o futuro, Hudson indicou que a Groq está trabalhando em LPUs de próxima geração com memória no chip ainda maior e eficiência energética aprimorada. A empresa também está explorando aplicações além de modelos de linguagem, incluindo visão computacional e aprendizado por reforço, embora esses esforços ainda estejam em estágios iniciais. Em 2025, a Groq continua competindo com outras startups de chips de IA, como SambaNova e Graphcore, embora seu foco em inferência, em vez de treinamento, a diferencie no mercado.
Histórico Pessoal e Educação
Hudson possui um bacharelado em engenharia elétrica pela Carnegie Mellon University, onde estudou arquitetura de computadores sob a orientação de professores que mais tarde influenciaram sua abordagem ao design de processadores. Ele também completou cursos de pós-graduação no Laboratório de Inteligência Artificial da Universidade de Stanford, embora tenha saído antes de concluir um doutorado para buscar empreendimentos empresariais. Sua formação acadêmica, combinada com sua experiência na indústria, o tornou uma voz respeitada no campo do hardware de IA, e ele contribui frequentemente com blogs técnicos e painéis de discussão sobre o futuro da computação.