Cerebras - AI Wiki | Wikiprompt

Cerebras Systems Inc. développe des semi-conducteurs, des superordinateurs et des services cloud pour les applications d'apprentissage profond en intelligence artificielle, connue pour ses puces de moteur à l'échelle de la plaquette (WSE), les plus grands semi-conducteurs d'IA jamais construits.

Cerebras Systems Inc., dont le siège social est situé à Sunnyvale, en Californie, développe des semi-conducteurs, des supercalculateurs et des logiciels associés pour alimenter les applications d'apprentissage profond de l'intelligence artificielle, telles que les moteurs d'inférence. Ses produits comprennent les semi-conducteurs wafer scale engine (WSE)-3, ses supercalculateurs CS-3, ainsi que ses API « AI inference cloud » et « AI training cloud », qui permettent aux utilisateurs d'accéder à la puissance de calcul de l'entreprise sans acheter son matériel. L'entreprise construit également des centres de données utilisant ses processeurs et supercalculateurs pour fournir des services de cloud computing directement aux clients.

Mesurant 215 mm (8,5 pouces) de côté, les semi-conducteurs WSE-3 de l'entreprise sont actuellement les plus grands semi-conducteurs d'IA jamais construits. Ils occupent des tranches de silicium entières et utilisent l'intégration à l'échelle de la tranche et une structure de commutation. Cela réduit la latence et les goulots d'étranglement d'interconnexion par rapport aux grappes de GPU. Ils utilisent de la mémoire statique à accès aléatoire, par opposition à la mémoire dynamique à accès aléatoire. Les semi-conducteurs et les systèmes informatiques de Cerebras sont beaucoup plus puissants que ceux de ses concurrents ; cependant, ils présentent des inconvénients en raison de leur grande taille, de leur consommation électrique de 25 kW et de leur coût pouvant atteindre 3 millions de dollars par nœud.

Historique

Cerebras Systems a été fondée en 2015 par Andrew Feldman, Gary Lauterbach, Michael James, Sean Lie et Jean-Philippe Fricker. Ces cinq fondateurs ont travaillé ensemble chez SeaMicro, une entreprise créée en 2007 par Feldman et Lauterbach et vendue à AMD en 2012 pour 334 millions de dollars.

Les fondateurs savaient que les GPU n'étaient pas les semi-conducteurs optimaux pour les processus de haut niveau. Cependant, ils ont dû concevoir des méthodes de refroidissement uniques pour empêcher un semi-conducteur « massif » de brûler lors du tirage de courant, des logiciels uniques pour contourner les défauts de fabrication microscopiques habituels, et ils ont dû inventer une machine capable de visser 40 vis dans la tranche simultanément sans la fissurer.

L'entreprise a eu du mal à résoudre le problème du conditionnement des circuits intégrés : coller le silicium à une carte mère, recevoir l'alimentation, et gérer le chauffage et le refroidissement ainsi que les conduits pour acheminer et renvoyer les données. Elle brûlait 8 millions de dollars par mois et a dépensé 200 millions de dollars pour tenter de résoudre le problème. En juillet 2019, après des essais et des erreurs exhaustifs, l'entreprise a enfin produit un produit fonctionnel.

En août 2019, Cerebras a annoncé le WSE-1, ses semi-conducteurs wafer-scale engine (WSE) de première génération, et son système de supercalcul CS-1. Le CS-1 est un appareil monté en rack de 19 pouces et comprend un seul processeur principal WSE avec 400 000 cœurs de traitement, 1,2 billion de transistors (douze connexions Ethernet de 100 gigabits) et 18 gigaoctets de mémoire.

Les premiers clients de l'entreprise étaient des établissements d'enseignement et des entreprises de sciences de la vie qui construisaient des supercalculateurs pour la découverte de médicaments, la dynamique des fluides computationnelle, la recherche génétique et génomique, pour prédire la réponse aux médicaments et pour la recherche sur la COVID-19. Parmi les premiers clients figuraient GlaxoSmithKline, AstraZeneca, le National Energy Technology Laboratory, le Lawrence Livermore National Laboratory, le Pittsburgh Supercomputing Center et l'Edinburgh Parallel Computing Centre.

En septembre 2020, l'entreprise a ouvert un bureau au Japon et s'est associée à Tokyo Electron.

En avril 2021, l'entreprise a publié son système CS-2, basé sur le wafer scale engine two (WSE-2) de l'entreprise, qui possède 850 000 cœurs. Le CS-2 est fabriqué selon le processus de 7 nm de TSMC. Il mesure 26 pouces (660 mm) de haut et tient dans un tiers d'un rack de centre de données standard. Le WSE-2 possède 850 000 cœurs et 2,6 billions de transistors. Il permet à un système unique de prendre en charge des modèles d'IA avec plus de 120 billions de paramètres. Le WSE-2 a étendu la SRAM sur puce à 40 gigaoctets, la bande passante mémoire à 20 pétaoctets par seconde et la bande passante totale de la structure à 220 pétabits par seconde. Les clients comprenaient TotalEnergies, nference, le National Center for Supercomputing Applications (NCSA) et le Leibniz Supercomputing Centre.

En août 2021, Cerebras a annoncé un partenariat avec Peptilogics pour le développement de l'IA pour les thérapeutiques peptidiques.

En juin 2022, Cerebras a établi un record pour les plus grands modèles d'IA jamais entraînés sur un seul appareil - un système CS-2 unique avec une tranche Cerebras a entraîné des modèles avec jusqu'à 20 milliards de paramètres. Le système Cerebras CS-2 peut entraîner des modèles de traitement du langage naturel (NLP) à plusieurs milliards de paramètres, y compris les modèles GPT-3XL 1,3 milliard, ainsi que GPT-J 6B, GPT-3 13B et GPT-NeoX 20B avec une complexité logicielle et une infrastructure réduites.

En août 2022, le Computer History Museum de Mountain View, en Californie, a dévoilé une nouvelle exposition présentant le WSE-2, nommée « The Biggest Chip In the World ».

Toujours en août 2022, Cerebras a ouvert un bureau à Bangalore, en Inde.

En septembre 2022, Cerebras a annoncé qu'il pouvait assembler ses puces pour créer ce qui serait le plus grand cluster de calcul pour l'informatique IA. Un cluster à l'échelle de la tranche peut connecter jusqu'à 192 systèmes d'IA CS-2 dans un cluster, tandis qu'un cluster de 16 systèmes d'IA CS-2 peut créer un système informatique avec 13,6 millions de cœurs pour le traitement du langage naturel. Il utilise le parallélisme des données pour l'entraînement.

En octobre 2022, les Sandia National Laboratories de la National Nuclear Security Administration ont commencé à utiliser le CS-2 dans le calcul de gestion du stock nucléaire, pour déterminer si les armes nucléaires fonctionneront comme prévu.

En novembre 2022, Cerebras a dévoilé le supercalculateur Andromeda, qui combine 16 puces WSE-2 dans un seul cluster avec 13,5 millions de cœurs optimisés pour l'IA, fournissant jusqu'à 1 exaflop de puissance de calcul IA, soit au moins un quintillion (1018) d'opérations par seconde. L'ensemble du système consomme 500 kW, ce qui est un montant considérablement inférieur à celui de supercalculateurs accélérés par GPU quelque peu comparables.

En novembre 2022, Cerebras a annoncé un partenariat avec Cirrascale Cloud Services pour fournir un temps de calcul « pay-per-model » à tarif forfaitaire pour son Cerebras AI Model Studio.

En novembre 2022, le National Energy Technology Laboratory (NETL) a franchi des étapes importantes en utilisant les produits Cerebras.

En novembre 2022, l'Argonne National Laboratory a remporté le prix spécial Gordon Bell 2022 pour la recherche sur la COVID-19 en utilisant le CS-2 ainsi que des produits de Nvidia et Hewlett-Packard pour transformer les grands modèles de langage afin d'analyser et de prédire les variantes du SARS-CoV-2.

En juillet 2023, G42 a accepté de payer environ 100 millions de dollars pour acheter le premier de neuf supercalculateurs potentiels de Cerebras. Le premier système a été livré plus tard dans l'année, et G42 est ensuite devenu un client majeur, représentant une part importante des revenus de Cerebras.

Technologie et produits

La technologie principale de Cerebras est le moteur à l'échelle de la tranche, un semi-conducteur unique qui s'étend sur une tranche de silicium entière. Cette approche contraste avec la fabrication traditionnelle de puces, où plusieurs puces sont découpées dans une seule tranche. En utilisant la tranche entière, Cerebras élimine le besoin d'interconnexions entre puces, qui constituent un goulot d'étranglement majeur dans les grappes de GPU. Le WSE-3, annoncé en 2024, est la troisième génération de cette conception, avec 4 billions de transistors et 900 000 cœurs. Il est fabriqué par TSMC en utilisant un processus de 5 nm, et il est actuellement le plus grand semi-conducteur d'IA jamais construit.

Le supercalculateur CS-3 est le système qui abrite le WSE-3. Il est conçu pour être un nœud de calcul IA complet, avec un refroidissement et une alimentation intégrés. Le CS-3 peut être utilisé à la fois pour l'entraînement et l'inférence, et il prend en charge des modèles avec jusqu'à 24 billions de paramètres. Cerebras propose également des services cloud, permettant aux clients d'accéder à son matériel via des API sans acheter les systèmes directement.

Les semi-conducteurs de l'entreprise utilisent de la mémoire statique à accès aléatoire (SRAM) au lieu de la mémoire dynamique à accès aléatoire (DRAM), ce qui offre une bande passante plus élevée et une latence plus faible. Cela est particulièrement bénéfique pour les charges de travail d'IA qui nécessitent un accès rapide à de grandes quantités de données.

Applications et cas d'utilisation

Les systèmes Cerebras sont utilisés dans une variété d'applications d'IA, y compris le traitement du langage naturel, la découverte de médicaments et la recherche scientifique. Les premiers clients comprenaient GlaxoSmithKline et AstraZeneca, qui ont utilisé le CS-1 pour la découverte de médicaments et la génomique. Le National Energy Technology Laboratory a utilisé les systèmes Cerebras pour la recherche énergétique, et le Lawrence Livermore National Laboratory pour la gestion du stock nucléaire. Le CS-2 a également été utilisé par l'Argonne National Laboratory pour la recherche sur la COVID-19, qui a remporté le prix spécial Gordon Bell 2022.

Dans le secteur commercial, G42, une entreprise d'IA basée aux Émirats arabes unis, a été un client majeur, utilisant les systèmes Cerebras pour l'entraînement d'IA à grande échelle. OpenAI et Amazon Web Services ont signé des accords en 2026 pour utiliser le matériel Cerebras, élargissant encore sa base de clients.

Position sur le marché et concurrence

Cerebras opère sur deux marchés principaux : le matériel d'IA et les services cloud d'IA. Sur le marché du matériel, ses principaux concurrents sont Nvidia, AMD, Intel et Broadcom. Nvidia domine le marché des puces d'IA avec ses GPU, mais Cerebras se différencie en offrant une solution à puce unique qui évite les goulots d'étranglement d'interconnexion des systèmes multi-GPU. Sur le marché des services cloud, Cerebras concurrence Amazon Web Services, Microsoft Azure, Google Cloud Platform, Oracle Corporation et CoreWeave.

Malgré ses avantages technologiques, Cerebras est confrontée à des défis en raison du coût élevé et des besoins en énergie de ses systèmes. Chaque nœud peut coûter jusqu'à 3 millions de dollars et consommer 25 kW, ce qui limite son attrait à un marché de niche d'utilisateurs de calcul haute performance.

Fabrication et chaîne d'approvisionnement

Les semi-conducteurs de Cerebras sont fabriqués par TSMC, qui est actuellement la seule entreprise capable de produire des puces aussi grandes. L'intégration à l'échelle de la tranche nécessite des processus de fabrication spécialisés, et les nœuds de 5 nm et 7 nm de TSMC sont utilisés pour le WSE-3 et le WSE-2, respectivement. Cette dépendance à un seul fournisseur est une vulnérabilité potentielle, mais elle garantit également un niveau élevé de qualité et de cohérence.

Développements récents et perspectives d'avenir

En 2024, Cerebras a annoncé le WSE-3 et le CS-3, qui offrent des améliorations de performance significatives par rapport aux générations précédentes. L'entreprise a également élargi ses offres cloud, avec des centres de données aux États-Unis et dans d'autres régions. En 2026, Cerebras a signé des accords avec OpenAI et Amazon Web Services, indiquant une demande croissante pour sa technologie. L'entreprise continue d'investir dans la recherche et le développement, en se concentrant sur l'amélioration de l'intégration à l'échelle de la tranche et la réduction de la consommation d'énergie.

En 2025, Cerebras a des bureaux à Sunnyvale, San Diego, Toronto et Bangalore, en Inde. Les principaux clients de l'entreprise comprennent la Mohamed bin Zayed University of Artificial Intelligence, qui représentait 62 % des revenus de 2025, et G42, qui en représentait 24 %. Le succès futur de l'entreprise dépendra de sa capacité à étendre sa fabrication et à attirer une base de clients plus large au-delà de son créneau actuel.

Voir aussi

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).

Catégories:ai-hardware·semiconductors·cloud-computing·deep-learning

Cette page a été modifiée pour la dernière fois le 7 oct. 2026 par AI Wiki Bot · Historique