Cerebras Systems Inc. est une entreprise de semi-conducteurs et de supercalculateurs dont le siège social est situé à Sunnyvale, en Californie. Elle conçoit et fabrique certains des plus grands processeurs d'IA au monde, notamment la série de moteurs à l'échelle de la tranche (WSE), et fournit des services de cloud computing permettant aux clients d'accéder à distance à son matériel. En 2024, l'entreprise a déposé une demande d'introduction en bourse (IPO) pour lever des capitaux en vue d'une expansion supplémentaire, marquant une étape importante dans sa trajectoire de croissance.
Les produits principaux de l'entreprise comprennent le semi-conducteur WSE-3, le supercalculateur CS-3 et des API pour les clouds d'inférence et d'entraînement d'IA. Ces systèmes sont conçus pour accélérer les charges de travail d'apprentissage profond et de modèles de langage à grande échelle, offrant des performances qui dépassent souvent les clusters traditionnels basés sur des GPU. La technologie de Cerebras est remarquable pour utiliser des tranches de silicium entières comme une seule puce, une technique connue sous le nom d'intégration à l'échelle de la tranche, qui réduit la latence d'interconnexion et la consommation d'énergie par rapport aux alternatives multi-puces.
Fondation et développement précoce
Cerebras a été fondée en 2015 par Andrew Feldman, Gary Lauterbach, Michael James, Sean Lie et Jean-Philippe Fricker, qui avaient tous travaillé ensemble chez SeaMicro, une entreprise de technologie serveur acquise par AMD en 2012. Les fondateurs ont reconnu que les GPU n'étaient pas idéaux pour toutes les tâches d'IA, ce qui les a incités à concevoir une nouvelle architecture à partir de zéro. Les défis précoces comprenaient le développement de méthodes de refroidissement uniques pour gérer la chaleur des puces massives, la création de logiciels pour contourner les défauts de fabrication microscopiques et l'invention d'une machine pour installer en toute sécurité la tranche sur une carte mère. L'entreprise a dépensé environ 200 millions de dollars sur plusieurs années pour résoudre ces problèmes d'emballage, brûlant environ 8 millions de dollars par mois, avant d'obtenir un produit fonctionnel en juillet 2019.
Évolution des produits : WSE-1 et WSE-2
En août 2019, Cerebras a annoncé son moteur à l'échelle de la tranche de première génération (WSE-1) et le système de supercalculateur CS-1. Le WSE-1 comportait 400 000 cœurs de traitement, 1,2 billion de transistors et 18 gigaoctets de mémoire sur puce. Le CS-1 était un appareil monté en rack de 19 pouces avec douze connexions Ethernet de 100 gigabits, conçu pour s'intégrer dans les centres de données existants. Les premiers clients comprenaient des entreprises pharmaceutiques comme GlaxoSmithKline et AstraZeneca, ainsi que des laboratoires nationaux tels que Lawrence Livermore et le Pittsburgh Supercomputing Center, qui utilisaient les systèmes pour la découverte de médicaments, la recherche génomique et la simulation.
En avril 2021, Cerebras a publié le CS-2, basé sur la puce WSE-2, qui a doublé le nombre de cœurs à 850 000 et étendu la SRAM sur puce à 40 gigaoctets. Fabriqué sur le processus de 7 nanomètres de TSMC, le CS-2 était plus petit (26 pouces de hauteur) et pouvait prendre en charge des modèles d'IA avec plus de 120 billions de paramètres. Les clients du CS-2 comprenaient TotalEnergies, le National Center for Supercomputing Applications et le Leibniz Supercomputing Centre. En juin 2022, Cerebras a établi un record en entraînant des modèles avec jusqu'à 20 milliards de paramètres sur un seul système CS-2, y compris des versions de GPT-3 et GPT-NeoX.
Montée en échelle : Andromède et clusters à l'échelle de la tranche
En septembre 2022, Cerebras a introduit le concept de clusters à l'échelle de la tranche, qui connectent plusieurs systèmes CS-2 en un seul cluster de calcul. Un cluster de 16 systèmes pouvait atteindre 13,6 millions de cœurs, et jusqu'à 192 CS-2 pouvaient être liés pour des charges de travail massives d'entraînement d'IA. En novembre 2022, l'entreprise a dévoilé Andromède, un cluster de 16 puces offrant jusqu'à 1 exaflop de puissance de calcul d'IA tout en consommant seulement 500 kilowatts, nettement moins que les supercalculateurs comparables basés sur des GPU. Cette étape a souligné les avantages d'efficacité de Cerebras en matière d'énergie et d'évolutivité.
Réalisations récentes et partenariats
En 2023, Cerebras a établi un partenariat avec G42, une entreprise d'IA basée aux Émirats arabes unis, qui a accepté d'acheter jusqu'à neuf supercalculateurs dans le cadre d'un accord évalué à environ 100 millions de dollars pour la première unité. L'entreprise a également élargi sa base de clients pour inclure OpenAI et Amazon Web Services (AWS), avec des contrats signés en 2026, selon des annonces ultérieures. En 2024, Cerebras avait quatre clients principaux : l'Université Mohamed bin Zayed d'intelligence artificielle (62 % des revenus de 2025), G42 (24 %), OpenAI et AWS. L'entreprise possède également des bureaux à San Diego, Toronto et Bangalore, en Inde, et utilise TSMC comme seul fabricant de semi-conducteurs en raison des exigences spécialisées des puces à l'échelle de la tranche.
Technologie et paysage concurrentiel
Les puces de Cerebras sont les plus grands semi-conducteurs d'IA jamais construits, mesurant 215 millimètres carrés et couvrant une tranche de silicium entière. Elles utilisent de la mémoire statique à accès aléatoire (SRAM) au lieu de la RAM dynamique présente dans de nombreux GPU, ce qui contribue à leur vitesse. Les principaux concurrents pour son matériel incluent Nvidia, AMD, Intel et Broadcom, tandis que ses services de cloud computing concurrencent Amazon Web Services, Microsoft Azure, Google Cloud, Oracle Cloud et CoreWeave. Malgré ses avantages, Cerebras fait face à des inconvénients tels qu'une consommation d'énergie de 25 kilowatts et un coût allant jusqu'à 3 millions de dollars par nœud, limitant son attrait à un marché de niche d'utilisateurs d'IA haute performance.
Dépôt d'IPO et perspectives d'entreprise
En 2024, Cerebras a déposé une demande d'introduction en bourse pour devenir publique, visant à lever des fonds pour la recherche et le développement, la capacité de fabrication et l'expansion mondiale. Le dépôt est intervenu au milieu d'une demande croissante d'infrastructure d'IA, alimentée par la prolifération des grands modèles de langage et des applications de IA générative. En 2024, l'entreprise n'avait pas encore finalisé son IPO, et ses détails financiers restaient confidentiels. Cette décision a été perçue comme un effort stratégique pour capitaliser sur sa position d'acteur différencié dans le domaine du matériel d'IA, bien qu'elle ait également fait face à un examen minutieux en raison de sa forte dépendance à quelques clients clés et des coûts élevés associés à sa technologie.
Applications et écosystème
Les systèmes Cerebras sont utilisés dans une variété d'applications scientifiques et commerciales, notamment la découverte de médicaments, la génomique, la dynamique des fluides et la gestion du stock nucléaire. Par exemple, le National Energy Technology Laboratory et le laboratoire national d'Argonne ont utilisé le matériel Cerebras pour la recherche sur le COVID-19 en s'appuyant sur le apprentissage profond. L'entreprise soutient également des efforts dans des domaines comme la chimie computationnelle et la modélisation climatique, bien que son objectif principal reste l'apprentissage automatique et l'entraînement et l'inférence en IA. Grâce à ses API cloud, Cerebras permet aux développeurs d'accéder à sa technologie sans acheter de matériel, élargissant ainsi sa portée au-delà des grandes entreprises et des institutions de recherche.
Orientations futures
À l'avenir, Cerebras vise à continuer de repousser les limites du calcul à l'échelle de la tranche, avec des plans pour des puces plus grandes et des mécanismes de refroidissement plus efficaces. L'entreprise explore également de nouveaux marchés, tels que le calcul en périphérie et l'IA sur appareil, bien que ceux-ci restent à des stades précoces. Avec l'industrie de l'IA en évolution rapide, le succès de Cerebras dépendra de sa capacité à maintenir un leadership technologique tout en gérant les coûts et en augmentant la production. L'IPO, si elle réussit, pourrait fournir les ressources financières nécessaires pour atteindre ces objectifs, mais le paysage concurrentiel reste intense, avec de grands fournisseurs de cloud investissant massivement dans du silicium personnalisé comme AWS Trainium et les TPU de Google Cloud.
Tout au long de son histoire, Cerebras a démontré une capacité d'innovation, surmontant des défis d'ingénierie sans précédent pour livrer des produits qui redéfinissent ce qui est possible dans le matériel d'IA. En 2024, l'entreprise continue d'être un acteur clé dans la poussée vers des systèmes d'IA plus puissants et plus efficaces, avec sa technologie à l'échelle de la tranche offrant une alternative distincte aux architectures traditionnelles basées sur des GPU.