Groq, Inc. es una empresa estadounidense de inteligencia artificial (IA) que fabrica un circuito integrado de aplicación específica (ASIC) acelerador de IA. La arquitectura se introdujo originalmente como Tensor Streaming Processor (TSP), pero luego se renombró como Language Processing Unit (LPU) tras la adopción generalizada de los modelos de lenguaje de gran tamaño después del avance de ChatGPT. La empresa también desarrolla hardware y software informáticos relacionados para acelerar el rendimiento de la inferencia de IA. Algunos ejemplos de los tipos de cargas de trabajo de IA que se ejecutan en la LPU de Groq son: modelos de lenguaje de gran tamaño (LLM), clasificación de imágenes y análisis predictivo. Groq tiene su sede en Mountain View, California, y cuenta con oficinas en San José, California; Liberty Lake, Washington; Toronto, Canadá; Londres, Reino Unido, y empleados remotos en toda América del Norte y Europa.
En diciembre de 2025, Nvidia y Groq anunciaron un acuerdo valorado en aproximadamente 20 000 millones de dólares estadounidenses para licenciar la tecnología de inferencia de IA de Groq y transferir a varios ejecutivos senior de Groq a Nvidia. Groq declaró que continuaría operando como una empresa independiente.
Historia
Groq fue fundada en 2016 por un grupo de antiguos ingenieros de Google, liderados por Jonathan Ross, uno de los diseñadores de la Unidad de Procesamiento Tensorial (TPU), un ASIC acelerador de IA, y Douglas Wightman, emprendedor y antiguo ingeniero de Google X (conocido como X Development), quien se desempeñó como primer director ejecutivo de la empresa. El equipo fundador se basó en la experiencia de DeepMind y otros grupos de investigación de IA, con el objetivo de construir hardware específicamente para las demandas de las cargas de trabajo de IA.
Groq recibió financiación inicial de Social Capital de Chamath Palihapitiya, con una inversión de 10 millones de dólares en 2017 y poco después consiguió financiación adicional. En abril de 2021, Groq recaudó 300 millones de dólares en una ronda de serie C liderada por Tiger Global Management y D1 Capital Partners. Entre los inversores actuales se incluyen: Infinitum, The Spruce House Partnership, Addition, GCM Grosvenor, Xⁿ, Firebolt Ventures, General Global Capital y Tru Arrow Partners, así como inversiones de seguimiento de Infinitum, TDK Ventures y XTX Ventures. Tras su ronda de financiación de serie C, Groq estaba valorada en más de 1000 millones de dólares, lo que convirtió a la empresa emergente en un unicornio.
El 1 de marzo de 2022, Groq adquirió Maxeler Technologies, una empresa conocida por sus tecnologías de sistemas de flujo de datos. Se decidió que Maxeler mantendría su marca debido a los logros del Dr. Oskar Mencer y su equipo, que publican investigaciones en su campo de especialización. El 16 de agosto de 2023, Groq seleccionó la fundición de Samsung Electronics en Taylor, Texas, para fabricar sus chips de próxima generación, en el proceso de 4 nanómetros (nm) de Samsung. Este fue el primer pedido en esta nueva fábrica de chips de Samsung.
El 19 de febrero de 2024, Groq lanzó de forma suave una plataforma para desarrolladores, GroqCloud™, para atraer a desarrolladores al uso de la API de Groq y alquilar acceso a sus chips. El 1 de marzo de 2024, Groq adquirió Definitive Intelligence, una empresa emergente conocida por ofrecer una gama de soluciones de IA orientadas a los negocios, para ayudar con su plataforma en la nube. Groq recaudó 640 millones de dólares en una ronda de serie D liderada por BlackRock Private Equity Partners en agosto de 2024, valorando la empresa en 2800 millones de dólares.
El 10 de febrero de 2025, Groq anunció que había conseguido un compromiso de 1500 millones de dólares estadounidenses del Reino de Arabia Saudita para expandir la entrega de su infraestructura de inferencia de IA basada en LPU, vinculado a un nuevo centro de datos de GroqCloud en Dammam, Arabia Saudita. En 2025, Groq ha establecido una docena de centros de datos en EE. UU., Canadá, Oriente Medio y Europa con su tecnología.
En diciembre de 2025, Nvidia acordó comprar activos de Groq por aproximadamente 20 000 millones de dólares estadounidenses, lo que constituye un récord para Nvidia. Groq ha descrito esto como un acuerdo de licencia no exclusivo. Como parte del acuerdo, el fundador de Groq, Ross, y el presidente de Groq, Sunny Madra, se unirían a Nvidia. En mayo de 2026, se informó que Groq estaba recaudando 650 millones de dólares de inversores existentes para financiar su transición a un negocio de inferencia de IA en la nube, con la ronda estructurada como una oferta prorrateada respaldada por los inversores Disruptive e Infinitum.
Unidad de Procesamiento de Lenguaje (LPU)
El nombre inicial de Groq para su ASIC fue Tensor Streaming Processor (TSP), con el nombre en clave "Alan", pero luego fue renombrado por Mark Heaps, vicepresidente de Marca, y Jonathan Ross, director ejecutivo y fundador, de TSP a Unidad de Procesamiento de Lenguaje (LPU) para hacer más evidente la naturaleza del procesador. La LPU está diseñada específicamente para la fase de inferencia de los modelos de lenguaje de gran tamaño y otros modelos de IA, centrándose en la baja latencia y el alto rendimiento.
La LPU presenta una microarquitectura segmentada funcionalmente, donde las unidades de memoria se intercalan con unidades de cálculo vectorial y matricial. Este diseño facilita la explotación de la localidad de los flujos de datos en los grafos de cálculo de IA, mejorando el rendimiento y la eficiencia de la ejecución. La LPU se diseñó basándose en dos observaciones clave: las cargas de trabajo de IA presentan un paralelismo de datos sustancial, que puede asignarse a hardware especializado, lo que genera ganancias de rendimiento; y un diseño de procesador determinista, junto con un modelo de programación productor-consumidor, permite un control preciso sobre los componentes de hardware, lo que permite optimizar el rendimiento y la eficiencia energética.
Además de su microarquitectura segmentada funcionalmente, la LPU también se caracteriza por su arquitectura determinista de un solo núcleo. La LPU puede lograr una ejecución determinista al evitar el uso de componentes de hardware reactivos tradicionales (predictores de saltos, árbitros, búferes de reordenación, cachés) y al hacer que toda la ejecución esté controlada explícitamente por el compilador, lo que garantiza el determinismo en la ejecución de un programa de LPU. Este enfoque determinista contrasta con la ejecución especulativa utilizada en muchos diseños de CPU, que puede introducir variabilidad en el rendimiento.
La primera generación de la LPU (TSP) produce una densidad computacional de más de 1 TeraOp/s por mm cuadrado de silicio para su chip de 14 nm y 25×29 mm, que opera a una frecuencia de reloj nominal de 900 MHz. La segunda generación de la LPU (LPU v2) se fabricará en el proceso de 4 nm de Samsung. La arquitectura de la LPU es particularmente adecuada para modelos basados en transformadores, que dominan las aplicaciones modernas de IA generativa.
Groq aloja modelos de lenguaje de gran tamaño de código abierto que se ejecutan en sus LPU para acceso público. El acceso a estas demostraciones está disponible a través del sitio web de Groq y su plataforma para desarrolladores. El rendimiento de la LPU se ha comparado con el de las GPU de Nvidia, mostrando aceleraciones significativas en la generación de tokens para modelos como Llama y Mistral, aunque la verificación independiente está en curso.
Arquitectura y Diseño
La filosofía de diseño de la LPU se centra en eliminar la sobrecarga de los procesadores de propósito general. Al usar un solo núcleo con una gran memoria gestionada por software, la LPU evita la necesidad de jerarquías de caché y protocolos de coherencia complejos. Cada segmento funcional incluye su propia memoria y unidades de cálculo, lo que permite que los datos fluyan directamente entre ellos sin pasar por un bus compartido. Esto es similar en espíritu a las arquitecturas de flujo de datos exploradas por proyectos anteriores como Xerox PARC y MIT CSAIL, pero aplicado a las cargas de trabajo modernas de IA.
El compilador juega un papel crucial en la operación de la LPU. Programa todas las instrucciones y movimientos de datos con antelación, asegurando que el hardware nunca se detenga esperando datos. Esta programación estática es posible porque los grafos de inferencia de IA se conocen típicamente de antemano, a diferencia de las aplicaciones interactivas. El resultado es un procesador que logra una alta utilización y un rendimiento predecible, lo cual es crítico para los servicios de IA en tiempo real.
La LPU también admite una gama de precisiones numéricas, incluyendo FP32, BF16 e INT8, lo que permite a los desarrolladores intercambiar precisión por velocidad. Esta flexibilidad es importante para implementar modelos en diferentes restricciones de hardware, desde dispositivos de borde hasta centros de datos en la nube.
Software y Ecosistema
Groq proporciona una pila de software que incluye un compilador, un entorno de ejecución y API para marcos populares como PyTorch y TensorFlow. El conjunto de herramientas GroqWare incluye herramientas para la optimización, la elaboración de perfiles y la implementación de modelos. La empresa también se ha asociado con Hugging Face para ofrecer una amplia gama de modelos de código abierto en su plataforma, lo que facilita a los desarrolladores experimentar con la aceleración de LPU.
GroqCloud, lanzado en 2024, permite a los usuarios alquilar capacidad de LPU bajo demanda, de forma similar a los servicios en la nube de AWS, Azure y Google Cloud. La plataforma admite tanto la inferencia interactiva como el procesamiento por lotes, con un modelo de precios de pago por uso. En 2025, GroqCloud aloja a más de 100 000 desarrolladores y ha procesado miles de millones de solicitudes.
La empresa también mantiene una división de investigación que colabora con instituciones académicas como el Stanford AI Lab y Berkeley AI Research para explorar nuevas arquitecturas para la IA. La tecnología de Groq se ha utilizado en aplicaciones que van desde motores de ajedrez hasta vehículos autónomos, aunque el enfoque principal sigue siendo la inferencia de LLM.
Posición en el Mercado y Competencia
Groq compite con otras empresas emergentes de chips de IA como SambaNova y Graphcore, así como con actores establecidos como AMD e Intel. El diseño determinista de la LPU le da una ventaja en aplicaciones sensibles a la latencia, pero carece de la flexibilidad de las GPU para tareas de entrenamiento. Groq se ha posicionado como un especialista en inferencia, un mercado que está creciendo rápidamente con la proliferación de aplicaciones de IA.
En 2025, la valoración de la empresa alcanzó los 2800 millones de dólares después de su ronda de serie D, y el acuerdo con Nvidia en diciembre de 2025 validó aún más su tecnología. El acuerdo de licencia permite a Nvidia incorporar la tecnología de inferencia de Groq en sus propios productos, lo que potencialmente expande el alcance de las soluciones basadas en LPU.
Direcciones Futuras
De cara al futuro, Groq planea lanzar la LPU v2, fabricada en el proceso de 4 nm de Samsung, que se espera que ofrezca mejoras significativas de rendimiento sobre la primera generación. La empresa también está explorando nuevas tecnologías de memoria, como HBM, para aumentar el ancho de banda y reducir aún más la latencia.
La transición de Groq a un negocio de inferencia de IA en la nube, como lo indica la ronda de financiación de 2026, sugiere un cambio estratégico de la venta de hardware a la prestación de servicios. Esto se alinea con las tendencias de la industria donde la computación se entrega cada vez más como un servicio público, similar a la evolución de la computación en la nube.
Véase también
- Unidad central de procesamiento
- Unidad de procesamiento gráfico
- Unidad de procesamiento tensorial
- Acelerador de IA
Referencias
- Sitio web oficial de Groq, Inc.
- Comunicados de prensa y anuncios de Groq
- Informes de la industria sobre hardware de IA