Groq, Inc. ist ein amerikanisches Unternehmen für künstliche Intelligenz, das KI-Beschleuniger als anwendungsspezifische integrierte Schaltkreise (ASICs) und zugehörige Software entwirft und verkauft, um die KI-Inferenz zu beschleunigen. Die Architektur des Unternehmens wurde ursprünglich als Tensor Streaming Processor (TSP) eingeführt, später jedoch nach der weit verbreiteten Einführung von großen Sprachmodellen nach dem Durchbruch von ChatGPT als Language Processing Unit (LPU) umbenannt. Die LPU von Groq ist darauf ausgelegt, KI-Workloads wie große Sprachmodelle, Bildklassifikation und prädiktive Analysen mit hoher Leistung und Effizienz auszuführen.
Der Hauptsitz von Groq befindet sich in Mountain View, Kalifornien. Das Unternehmen unterhält außerdem Büros in San Jose, Kalifornien; Liberty Lake, Washington; Toronto, Kanada; und London, Vereinigtes Königreich, mit Remote-Mitarbeitern in Nordamerika und Europa. Im Dezember 2025 gaben Nvidia und Groq eine Vereinbarung bekannt, die Berichten zufolge einen Wert von etwa 20 Milliarden US-Dollar hat, um Groqs KI-Inferenztechnologie zu lizenzieren und mehrere leitende Groq-Führungskräfte zu Nvidia zu transferieren, während Groq erklärte, weiterhin als unabhängiges Unternehmen zu operieren.
Geschichte
Groq wurde 2016 von einer Gruppe ehemaliger Google-Ingenieure gegründet, angeführt von Jonathan Ross, einem der Entwickler des Tensor Processing Unit (TPU), und Douglas Wightman, einem Unternehmer und ehemaligen Ingenieur bei Google X, der als erster CEO des Unternehmens fungierte. Das Unternehmen erhielt Startkapital von Social Capitals Chamath Palihapitiya mit einer Investition von 10 Millionen US-Dollar im Jahr 2017, gefolgt von zusätzlichen Mitteln.
Im April 2021 sammelte Groq 300 Millionen US-Dollar in einer Serie-C-Runde unter der Führung von Tiger Global Management und D1 Capital Partners ein, was das Unternehmen mit über 1 Milliarde US-Dollar bewertete und es zu einem Einhorn machte. Zu den aktuellen Investoren gehören Infinitum, The Spruce House Partnership, Addition, GCM Grosvenor, Xⁿ, Firebolt Ventures, General Global Capital und Tru Arrow Partners, mit Folgeinvestitionen von Infinitum, TDK Ventures und XTX Ventures.
Am 1. März 2022 übernahm Groq Maxeler Technologies, ein Unternehmen, das für seine Dataflow-Systemtechnologien bekannt ist. Maxeler behielt seine Marke aufgrund der langjährigen Leistungen von Dr. Oskar Mencer und seinem Team.
Am 16. August 2023 wählte Groq die Samsung Electronics-Foundry in Taylor, Texas, um seine Chips der nächsten Generation auf dem 4-Nanometer-Prozessknoten (nm) von Samsung herzustellen, was die erste Bestellung in dieser neuen Fabrik markierte.
Am 19. Februar 2024 startete Groq eine Entwicklerplattform, GroqCloud, um Entwickler anzuziehen, die Groq-API zu nutzen und Zugriff auf seine Chips zu mieten. Am 1. März 2024 übernahm Groq Definitive Intelligence, ein Startup, das geschäftsorientierte KI-Lösungen anbietet, um seine Cloud-Plattform zu unterstützen.
Im August 2024 sammelte Groq 640 Millionen US-Dollar in einer Serie-D-Runde unter der Führung von BlackRock Private Equity Partners ein, was das Unternehmen mit 2,8 Milliarden US-Dollar bewertete. Am 10. Februar 2025 kündigte Groq eine Zusage von 1,5 Milliarden US-Dollar aus dem Königreich Saudi-Arabien an, um die Bereitstellung seiner LPU-basierten KI-Inferenzinfrastruktur zu erweitern, verbunden mit einem neuen GroqCloud-Rechenzentrum in Dammam, Saudi-Arabien. Bis 2025 hatte Groq ein Dutzend Rechenzentren in den USA, Kanada, dem Nahen Osten und Europa etabliert.
Im Dezember 2025 erklärte sich Nvidia bereit, Vermögenswerte von Groq für etwa 20 Milliarden US-Dollar zu kaufen, ein Rekord für Nvidia. Groq beschrieb den Deal als nicht-exklusive Lizenzvereinbarung. Im Rahmen des Deals sollten Groq-Gründer Jonathan Ross und Präsident Sunny Madra zu Nvidia wechseln. Im Mai 2026 wurde berichtet, dass Groq 650 Millionen US-Dollar von bestehenden Investoren aufbringt, um seinen Übergang zu einem KI-Inferenz-Cloud-Geschäft zu finanzieren, wobei die Runde als Pro-rata-Angebot strukturiert war, das von den Investoren Disruptive und Infinitum abgesichert wurde.
Language Processing Unit
Der ASIC von Groq wurde ursprünglich als Tensor Streaming Processor (TSP) bezeichnet, mit dem Codenamen „Alan", wurde aber später von Mark Heaps, VP of Brand, und Jonathan Ross, CEO/Gründer, in Language Processing Unit (LPU) umbenannt, um die Natur des Prozessors offensichtlicher zu machen.
Die LPU verfügt über eine funktional geschnittene Mikroarchitektur, bei der Speichereinheiten mit Vektor- und Matrixberechnungseinheiten verschachtelt sind. Dieses Design erleichtert die Nutzung von Dataflow-Lokalität in KI-Berechnungsgraphen und verbessert die Ausführungsleistung und -effizienz. Die LPU wurde auf der Grundlage von zwei wichtigen Beobachtungen entworfen: KI-Workloads weisen erhebliche Datenparallelität auf, die auf speziell entwickelte Hardware abgebildet werden kann, und ein deterministisches Prozessordesign in Verbindung mit einem Producer-Consumer-Programmiermodell ermöglicht präzise Kontrolle und Überlegung über Hardwarekomponenten, wodurch Leistung und Energieeffizienz optimiert werden.
Die LPU hat außerdem eine Single-Core-, deterministische Architektur. Sie vermeidet traditionelle reaktive Hardwarekomponenten wie Branch-Prädiktoren, Arbitrierungseinheiten, Reorder-Buffer und Caches, wobei alle Ausführungen explizit vom Compiler gesteuert werden, was eine deterministische Ausführung eines LPU-Programms garantiert.
Die erste Generation der LPU (TSP) erzielt eine Rechendichte von mehr als 1 TeraOp/s pro Quadratmillimeter Silizium für ihren 25×29 mm großen 14nm-Chip, der mit einer nominalen Taktfrequenz von 900 MHz arbeitet. Die zweite Generation (LPU v2) wird auf dem 4nm-Prozessknoten von Samsung hergestellt.
Groq hostet Open-Source-Sprachmodelle, die auf seinen LPUs laufen, für den öffentlichen Zugriff, verfügbar über Groqs Website und sein Playground für Entwickler.
GroqCloud-Plattform
GroqCloud ist die Entwicklerplattform des Unternehmens, die API-Zugriff auf seine LPU-basierten Inferenzdienste bietet. Sie wurde im Februar 2024 gestartet und ermöglicht Entwicklern, Zugriff auf Groqs Chips zu mieten und KI-Inferenz in ihre Anwendungen zu integrieren. Die Plattform unterstützt verschiedene große Sprachmodelle und war maßgeblich daran beteiligt, eine Entwickler-Community anzuziehen.
Finanzierung und Bewertung
Groqs Finanzierungsgeschichte umfasst eine Startinvestition von 10 Millionen US-Dollar im Jahr 2017, eine Serie-C-Runde von 300 Millionen US-Dollar im April 2021 (Bewertung des Unternehmens mit über 1 Milliarde US-Dollar) und eine Serie-D-Runde von 640 Millionen US-Dollar im August 2024 (Bewertung des Unternehmens mit 2,8 Milliarden US-Dollar). Im Februar 2025 sicherte sich das Unternehmen eine Zusage von 1,5 Milliarden US-Dollar aus Saudi-Arabien. Im Mai 2026 wurde berichtet, dass Groq 650 Millionen US-Dollar von bestehenden Investoren aufbringt, um seinen Übergang zu einem KI-Inferenz-Cloud-Geschäft zu finanzieren.
Partnerschaften und Fertigung
Groq wählte die Foundry von Samsung Electronics in Taylor, Texas, für die Herstellung seiner Chips der nächsten Generation auf einem 4nm-Prozessknoten, eine Partnerschaft, die im August 2023 begann. Das Unternehmen hat außerdem mit verschiedenen Organisationen zusammengearbeitet, um seine Technologie in mehreren Rechenzentren weltweit einzusetzen.
Siehe auch
- Zentrale Verarbeitungseinheit
- Grafikprozessor
- Tensor Processing Unit
Referenzen
Dieser Artikel basiert auf Informationen aus öffentlichen Quellen, einschließlich Unternehmensankündigungen und Pressemitteilungen.