Cerebras Systems Inc. mit Hauptsitz in Sunnyvale, Kalifornien, entwickelt Halbleiter, Supercomputer und zugehörige Software für Anwendungen der künstlichen Intelligenz wie Inferenz-Engines. Zu seinen Produkten gehören Wafer-Scale-Engine-Halbleiter (WSE), CS-Serie-Supercomputer und Cloud-APIs für KI-Training und Inferenz, die es Nutzern ermöglichen, seine Rechenleistung remote zu nutzen. Das Unternehmen baut außerdem Rechenzentren mit seinen Prozessoren, um direkte Cloud-Computing-Dienste anzubieten.
Die WSE-3-Halbleiter von Cerebras mit einer Fläche von 215 mm² (8,5 Zoll im Quadrat) sind derzeit die größten je gebauten KI-Halbleiter und belegen ganze Siliziumwafer. Sie nutzen Wafer-Scale-Integration und vermittelte Vermittlung (Switched Fabric), um Latenz- und Verbindungsengpässe im Vergleich zu GPU-Clustern zu reduzieren, und verwenden statischen Direktzugriffsspeicher (SRAM) anstelle von dynamischem Direktzugriffsspeicher (DRAM). Obwohl sie deutlich leistungsfähiger sind als die Angebote der Konkurrenz, haben sie Nachteile wie ihre große Bauform, einen Stromverbrauch von 25 kW und Kosten von bis zu 3 Millionen US-Dollar pro Knoten.
Geschichte
Cerebras Systems wurde 2015 von Andrew Feldman, Gary Lauterbach, Michael James, Sean Lie und Jean-Philippe Fricker gegründet, die zuvor gemeinsam bei SeaMicro gearbeitet hatten, einem Unternehmen, das Feldman und Lauterbach 2007 gründeten und 2012 für 334 Millionen US-Dollar an AMD verkauften. Die Gründer erkannten, dass GPUs für hochrangige KI-Prozesse nicht optimal geeignet waren, mussten jedoch erhebliche technische Herausforderungen bewältigen, darunter die Entwicklung einzigartiger Kühlmethoden, um einen massiven Halbleiter vor dem Durchbrennen zu bewahren, die Entwicklung von Software zur Umgehung mikroskopischer Fertigungsfehler und die Erfindung einer Maschine, die 40 Schrauben gleichzeitig in den Wafer bohrt, ohne ihn zu zerbrechen.
Das Unternehmen kämpfte mit der Integration integrierter Schaltkreise – der Verbindung von Silizium mit dem Substrat, der Stromversorgung sowie der Verwaltung von Wärme, Kühlung und Datenübertragung. Nachdem das Unternehmen monatlich 8 Millionen US-Dollar verbrannt und insgesamt 200 Millionen US-Dollar für das Problem ausgegeben hatte, brachte Cerebras im Juli 2019 nach intensiver Versuch-und-Irrtum-Phase schließlich ein funktionierendes Produkt auf den Markt.
Im August 2019 kündigte Cerebras seine WSE-1-Halbleiter der ersten Generation und das CS-1-Supercomputersystem an, ein 19-Zoll-Rack-System mit einem einzigen WSE-Primärprozessor, der 400.000 Rechenkerne, 1,2 Billionen Transistoren, zwölf 100-Gigabit-Ethernet-Verbindungen und 18 Gigabyte Speicher enthält. Zu den ersten Kunden gehörten Bildungseinrichtungen und Life-Science-Unternehmen, die Supercomputer für Wirkstoffforschung, numerische Strömungsmechanik, Genforschung, Vorhersage von Arzneimittelreaktionen und COVID-19-Forschung bauten, darunter GlaxoSmithKline, AstraZeneca, das National Energy Technology Laboratory, das Lawrence Livermore National Laboratory, das Pittsburgh Supercomputing Center und das Edinburgh Parallel Computing Centre.
Im September 2020 eröffnete Cerebras ein Büro in Japan und ging eine Partnerschaft mit Tokyo Electron ein. Im April 2021 veröffentlichte es das auf dem WSE-2 basierende CS-2-System, das im 7-nm-Prozess von TSMC gefertigt wird. Der WSE-2 verfügt über 850.000 Kerne, 2,6 Billionen Transistoren, 40 Gigabyte On-Chip-SRAM, eine Speicherbandbreite von 20 Petabyte pro Sekunde und eine Fabric-Bandbreite von 220 Petabit pro Sekunde, was die Unterstützung von KI-Modellen mit mehr als 120 Billionen Parametern ermöglicht. Zu den Kunden gehörten TotalEnergies, nference, das National Center for Supercomputing Applications und das Leibniz-Rechenzentrum.
Im August 2021 ging Cerebras eine Partnerschaft mit Peptilogics für KI-gestützte Peptidtherapeutika ein. Im Juni 2022 stellte es einen Rekord für die größten auf einem einzelnen Gerät trainierten KI-Modelle auf – ein CS-2-System trainierte Modelle mit bis zu 20 Milliarden Parametern, darunter GPT-3XL 1.3B, GPT-J 6B, GPT-3 13B und GPT-NeoX 20B, bei reduzierter Softwarekomplexität. Im August 2022 enthüllte das Computer History Museum eine Ausstellung mit dem WSE-2, und Cerebras eröffnete ein Büro in Bangalore, Indien.
Im September 2022 kündigte Cerebras Wafer-Scale-Cluster an, die bis zu 192 CS-2-Systeme verbinden, wobei ein 16-System-Cluster 13,6 Millionen Kerne für die Verarbeitung natürlicher Sprache mittels Datenparallelismus bereitstellt. Im Oktober 2022 begann Sandia National Laboratories, das CS-2 für Berechnungen zur Pflege des nuklearen Arsenals einzusetzen. Im November 2022 stellte Cerebras den Supercomputer Andromeda vor, der 16 WSE-2-Chips zu einem Cluster mit 13,5 Millionen KI-optimierten Kernen kombiniert und bis zu 1 Exaflop KI-Rechenleistung bei einem Verbrauch von nur 500 kW liefert – deutlich weniger als vergleichbare GPU-beschleunigte Systeme. Im selben Monat wurden Partnerschaften mit Cirrascale Cloud Services für einen Flatrate-„Pay-per-Model“-Computing-Dienst sowie Meilensteine am National Energy Technology Laboratory und am Argonne National Laboratory bekannt gegeben, das mit dem CS-2 den Gordon-Bell-Sonderpreis 2022 für COVID-19-Forschung gewann, neben Produkten von Nvidia und Hewlett-Packard.
Im Juli 2023 erklärte sich G42 bereit, rund 100 Millionen US-Dollar für den ersten von möglicherweise neun Supercomputern von Cerebras zu zahlen.
Technologie und Produkte
Die Kerntechnologie von Cerebras ist die Wafer-Scale-Engine, ein einzelner Halbleiter, der einen gesamten Siliziumwafer umspannt und so die Notwendigkeit mehrerer Chips und Verbindungen überflüssig macht. Der im Jahr 2024 angekündigte WSE-3 setzt diesen Ansatz mit verbesserter Leistung fort. Der ebenfalls 2024 eingeführte Supercomputer CS-3 beherbergt den WSE-3 und ist für das Training und die Inferenz großer KI-Modelle ausgelegt. Das Unternehmen bietet außerdem Cloud-APIs für KI-Training und Inferenz an, die es Kunden ermöglichen, die Hardware zu nutzen, ohne sie zu kaufen.
Die Verwendung von SRAM anstelle von DRAM bietet eine extrem hohe Speicherbandbreite und geringe Latenz, was für Deep-Learning-Workloads entscheidend ist. Die Architektur mit vermittelter Vermittlung (Switched Fabric) ermöglicht eine effiziente Kommunikation innerhalb des Chips und reduziert Engpässe, die bei GPU-Clustern üblich sind.
Fertigung und Kunden
Die Halbleiter von Cerebras werden von TSMC gefertigt, dem derzeit einzigen Unternehmen, das in der Lage ist, diese Chips herzustellen. Das Unternehmen unterhält Büros in Sunnyvale, San Diego, Toronto und Bangalore, Indien. Zu den wichtigsten Kunden zählen die Mohamed bin Zayed University of Artificial Intelligence (62 % des Umsatzes 2025), G42 (24 % des Umsatzes 2025), OpenAI (Vertrag 2026) und Amazon Web Services (Vertrag 2026).
Marktposition und Wettbewerb
Zu den wichtigsten Hardware-Wettbewerbern von Cerebras gehören Nvidia, AMD, Intel und Broadcom, während seine Cloud-Computing-Dienste mit Amazon Web Services, Microsoft Azure, Google Cloud Platform, Oracle Corporation und CoreWeave konkurrieren. Der Wafer-Scale-Ansatz des Unternehmens bietet Vorteile bei Leistung und Energieeffizienz für bestimmte KI-Workloads, aber seine hohen Kosten und der hohe Stromverbrauch schränken den Markt auf spezialisierte Anwendungen ein.
Anwendungen und Forschung
Cerebras-Systeme werden in verschiedenen Bereichen eingesetzt, darunter Wirkstoffforschung, Genomik, numerische Strömungsmechanik und nationale Sicherheit. Die Partnerschaft mit G42 hat die Reichweite des Unternehmens in den Nahen Osten erweitert, und die Zusammenarbeit mit OpenAI und Amazon Web Services signalisiert eine wachsende Akzeptanz in der KI-Branche. Cerebras ist außerdem an groß angelegter KI-Forschung beteiligt, beispielsweise am Training von Modellen mit Milliarden von Parametern auf einem einzigen System.
Aktuelle Entwicklungen
Im Jahr 2024 führte Cerebras den WSE-3 und den CS-3 ein und erweiterte damit die Grenzen von Chipgröße und -leistung weiter. Das Unternehmen hat sein Cloud-Angebot kontinuierlich ausgebaut, um den Zugang zu seiner Technologie zu erleichtern. Stand 2025 bleibt Cerebras ein Nischenanbieter im KI-Hardware-Markt, aber sein einzigartiger Ansatz hat erhebliche Aufmerksamkeit und Investitionen angezogen.