Noam Shazeer es un informático estadounidense conocido por ser uno de los ocho coautores del artículo de 2017 que introdujo la arquitectura transformador y por ser cofundador de la empresa de chatbots Character.AI.
Carrera en Google
Shazeer trabajó en Google durante muchos años antes de la era del transformador, contribuyendo a sistemas a gran escala, incluidas partes de la corrección ortográfica de Google y la investigación temprana sobre mezcla de expertos, una arquitectura que ayudó a popularizar como una forma de escalar la capacidad del modelo sin aumentar proporcionalmente el costo computacional. En 2017, fue coautor de "Attention Is All You Need", el artículo que introdujo el transformador, que reemplazó la recurrencia con un mecanismo de autoatención y se convirtió en la base arquitectónica de casi todos los grandes modelos de lenguaje desarrollados desde entonces, incluidos BERT y GPT-3. Los ocho autores del artículo finalmente dejaron Google.
Character.AI
En 2021, Shazeer dejó Google para cofundar Character.AI, una empresa que permitía a los usuarios crear y conversar con personajes de IA personalizables, construidos sobre grandes modelos de lenguaje que la propia empresa entrenaba. Character.AI creció rápidamente, alcanzando decenas de millones de usuarios, y se convirtió en uno de los ejemplos más destacados de productos de compañía de IA, pero también atrajo escrutinio y demandas sobre la seguridad de sus interacciones con usuarios más jóvenes y un caso ampliamente reportado que involucraba daño a un usuario.
Regreso a Google
En agosto de 2024, Google anunció un acuerdo en el que pagó por licenciar la tecnología de Character.AI y contrató a gran parte de su liderazgo, incluido Shazeer, quien regresó a Google como ejecutivo senior dentro de la organización Google DeepMind, contribuyendo al desarrollo de la familia de modelos Gemini. El acuerdo, estructurado como una licencia más una contratación de talento en lugar de una adquisición formal, fue ampliamente visto como parte de un patrón en el que los grandes laboratorios de IA reabsorben a los fundadores de empresas de IA más pequeñas, una estructura también utilizada en acuerdos que involucran a Inflection AI y Microsoft.
Influencia
Como coautor del artículo del transformador, a Shazeer se le atribuye ser uno de los arquitectos de la base técnica que sustenta toda la industria de IA generativa que surgió después de 2022, y su trayectoria profesional, desde Google hasta una startup de IA de consumo y de regreso, se cita con frecuencia como ilustrativa de cuán concentrado se volvió el mercado de talento en IA de vanguardia durante el auge de la IA generativa.