Noam Shazeer é um cientista da computação americano, conhecido como um dos oito coautores do artigo de 2017 que introduziu a arquitetura transformador, e como cofundador da empresa de chatbots Character.AI.
Carreira no Google
Shazeer trabalhou no Google por muitos anos antes da era do transformer, contribuindo para sistemas de grande escala, incluindo partes da correção ortográfica do Google e pesquisas iniciais sobre mistura de especialistas, uma arquitetura que ele ajudou a popularizar como uma forma de escalar a capacidade do modelo sem aumentar proporcionalmente o custo computacional. Em 2017, ele foi coautor de "Attention Is All You Need," o artigo que introduziu o transformer, que substituiu a recorrência por um mecanismo de autoatenção e se tornou a base arquitetônica para quase todos os principais modelos de linguagem de grande porte desenvolvidos desde então, incluindo BERT e GPT-3. Todos os oito autores do artigo eventualmente deixaram o Google.
Character.AI
Em 2021, Shazeer deixou o Google para cofundar a Character.AI, uma empresa que permitia aos usuários criar e conversar com personas de IA personalizáveis, construída sobre modelos de linguagem de grande porte que a própria empresa treinava. A Character.AI cresceu rapidamente, alcançando dezenas de milhões de usuários, e se tornou um dos exemplos mais proeminentes de produtos de companhia de IA, mas também atraiu escrutínio e processos judiciais sobre a segurança de suas interações com usuários mais jovens e um caso amplamente divulgado envolvendo danos a usuários.
Retorno ao Google
Em agosto de 2024, o Google anunciou um acordo no qual pagou para licenciar a tecnologia da Character.AI e contratou grande parte de sua liderança, incluindo Shazeer, que retornou ao Google como executivo sênior dentro da organização Google DeepMind, contribuindo para o desenvolvimento da família de modelos Gemini. O acordo, estruturado como uma licença mais contratação de talentos em vez de uma aquisição formal, foi amplamente visto como parte de um padrão de grandes laboratórios de IA reabsorvendo fundadores de empresas menores de IA, uma estrutura também usada em acordos envolvendo Inflection AI e a Microsoft.
Influência
Como coautor do artigo do transformer, Shazeer é creditado como um dos arquitetos da base técnica subjacente a toda a indústria de IA generativa que emergiu após 2022, e sua trajetória de carreira, do Google a uma startup de IA para consumidores e de volta, é frequentemente citada como ilustrativa de quão concentrado o mercado de talentos de IA de fronteira se tornou durante o boom da IA generativa.