Drew Hudson es un emprendedor tecnológico y arquitecto de computadoras, conocido principalmente como cofundador de Groq, una empresa especializada en hardware de inteligencia artificial. Ha desempeñado un papel central en el desarrollo de la unidad de procesamiento de lenguaje (LPU) de la empresa, un procesador diseñado específicamente para la ejecución rápida y eficiente de modelos de lenguaje grandes. Su trabajo se sitúa en la intersección de la inteligencia artificial y la computación de alto rendimiento, centrándose en superar los cuellos de botella de memoria y ancho de banda que limitan a las unidades de procesamiento gráfico (GPU) tradicionales en tareas de inferencia de IA.
La carrera de Hudson en la industria de semiconductores comenzó mucho antes de la fundación de Groq. Anteriormente trabajó en Xerox PARC, donde adquirió experiencia en investigación de sistemas informáticos, y más tarde en Nokia Bell Labs, contribuyendo a proyectos que involucraban diseño avanzado de procesadores. Estos roles le proporcionaron una base tanto en investigación teórica como en ingeniería práctica, que luego aplicó a la creación de la arquitectura única de Groq.
Groq y la Unidad de Procesamiento de Lenguaje
En 2016, Hudson cofundó Groq junto con un equipo de ingenieros e investigadores, incluidos antiguos colegas del proyecto de la Unidad de Procesamiento Tensorial (TPU) de Google. La empresa se estableció con el objetivo de construir una nueva clase de procesador que pudiera ofrecer un rendimiento determinista y de baja latencia para cargas de trabajo de IA. El resultado fue la LPU, que utiliza un enfoque definido por software para eliminar la necesidad de una programación de instrucciones compleja, permitiendo un modelo de ejecución más simple y predecible.
La primera generación de la LPU se fabricó utilizando un proceso de 14 nanómetros, y las versiones posteriores han pasado a nodos más avanzados. El hardware de Groq ha sido evaluado con velocidades de inferencia significativamente más rápidas que muchas GPU contemporáneas, particularmente para modelos basados en transformadores. Por ejemplo, en 2023, Groq demostró inferencia en tiempo real de modelos de lenguaje grandes a velocidades que superan los 100 tokens por segundo por usuario, una cifra que atrajo una atención considerable en la comunidad de IA.
Contribuciones Técnicas y Filosofía
Hudson ha sido un defensor vocal de un cambio respecto al enfoque dominante centrado en GPU para la aceleración de IA. Argumenta que las GPU, aunque versátiles, no son óptimas para la naturaleza limitada por memoria de las cargas de trabajo de inferencia, donde el movimiento de datos a menudo domina el cálculo. La LPU aborda esto utilizando una gran cantidad de memoria estática de acceso aleatorio (SRAM) en el chip y una arquitectura de flujo que mantiene los datos fluyendo continuamente, reduciendo la dependencia de memoria externa más lenta como HBM (memoria de alto ancho de banda).
Esta filosofía de diseño ha llevado a varios logros técnicos notables. Los chips de Groq se han utilizado para ejecutar modelos de OpenAI y Anthropic en entornos de demostración, mostrando su capacidad para manejar arquitecturas tanto de código abierto como propietarias. Hudson también ha enfatizado la importancia del rendimiento determinista, lo que significa que el tiempo para procesar una entrada dada es consistente y predecible, lo cual es crítico para aplicaciones en tiempo real como asistentes de voz y sistemas autónomos.
Impacto en la Industria y Asociaciones
Bajo el liderazgo técnico de Hudson, Groq ha asegurado asociaciones con importantes proveedores de nube y empresas. En 2024, la empresa anunció una colaboración con Amazon Web Services para ofrecer instancias basadas en LPU de Groq a través del mercado de AWS, permitiendo a los desarrolladores acceder al hardware sin poseerlo directamente. Además, Groq ha trabajado con Google Cloud en iniciativas de investigación conjuntas, aunque los detalles de estos proyectos no se han divulgado por completo.
La empresa también ha recibido financiación significativa, recaudando más de 300 millones de dólares en sus primeras rondas, con inversores que incluyen a Intel Capital y al Fondo Catalizador de Samsung. Estas inversiones han apoyado la ampliación de la producción de Groq y la expansión de su pila de software, que incluye un compilador y un entorno de ejecución que convierten modelos de marcos como PyTorch y TensorFlow en instrucciones compatibles con LPU.
Reconocimiento y Direcciones Futuras
Las contribuciones de Hudson han sido reconocidas a través de varios premios de la industria, incluida su inclusión en listas de figuras influyentes en hardware de IA. Ha hablado en conferencias importantes como el Simposio Internacional de Arquitectura de Computadoras (ISCA) y la conferencia de Sistemas de Procesamiento de Información Neural (NeurIPS), donde ha presentado artículos sobre el diseño y el rendimiento de la LPU.
De cara al futuro, Hudson ha indicado que Groq está trabajando en LPU de próxima generación con memoria en chip aún mayor y eficiencia energética mejorada. La empresa también está explorando aplicaciones más allá de los modelos de lenguaje, incluidos la visión por computadora y el aprendizaje por refuerzo, aunque estos esfuerzos aún están en etapas tempranas. A partir de 2025, Groq continúa compitiendo con otras startups de chips de IA como SambaNova y Graphcore, aunque su enfoque en la inferencia en lugar del entrenamiento lo diferencia en el mercado.
Antecedentes Personales y Educación
Hudson tiene una licenciatura en ingeniería eléctrica de la Universidad Carnegie Mellon, donde estudió arquitectura de computadoras bajo profesores que luego influyeron en su enfoque del diseño de procesadores. También completó cursos de posgrado en el Laboratorio de Inteligencia Artificial de la Universidad de Stanford, aunque se fue antes de terminar un doctorado para emprender proyectos empresariales. Su formación académica, combinada con su experiencia en la industria, lo ha convertido en una voz respetada en el campo del hardware de IA, y contribuye con frecuencia a blogs técnicos y paneles de discusión sobre el futuro de la computación.