Graphcore est une entreprise britannique de semi-conducteurs dont le siège est à Bristol, en Angleterre, qui développe des accélérateurs pour l'intelligence artificielle et l'apprentissage automatique. Fondée en 2016 par Simon Knowles et Nigel Toon, l'entreprise est surtout connue pour son unité de traitement de l'intelligence (IPU), un processeur massivement parallèle conçu pour contenir des modèles d'apprentissage automatique entiers dans la mémoire sur puce. En juillet 2024, Graphcore a été acquise par SoftBank Group pour environ 500 millions de dollars, après avoir fait face à des défis commerciaux sur un marché dominé par Nvidia et d'autres acteurs établis.
Historique
Graphcore a été fondée en 2016 par Simon Knowles et Nigel Toon, tous deux vétérans de l'industrie des semi-conducteurs. Knowles avait auparavant cofondé la spin-off d'ARM Holdings Element 14 et le concepteur de puces Icera, tandis que Toon avait dirigé XMOS et occupé des postes de direction chez Altera. L'entreprise visait à créer une nouvelle classe de processeurs spécifiquement adaptés aux charges de travail d'IA, s'écartant de l'approche centrée sur les GPU qui dominait le domaine.
À l'automne 2016, Graphcore a obtenu son premier tour de financement mené par Robert Bosch Venture Capital, avec la participation de Samsung Electronics, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital et Pitango. Ce soutien précoce a permis à l'entreprise d'élargir son équipe d'ingénierie et d'accélérer le développement de son architecture IPU.
En juillet 2017, Graphcore a levé un tour de série B mené par Atomico, suivi quelques mois plus tard d'un investissement supplémentaire de 50 millions de dollars de Sequoia Capital. Cette injection de capital a valorisé l'entreprise à plus de 300 millions de dollars et a financé le tape-out de son premier silicium.
En décembre 2018, Graphcore a clôturé un tour de série D de 200 millions de dollars, portant sa valorisation à 1,7 milliard de dollars et lui conférant le statut de licorne. Ce tour comprenait des investissements de Microsoft, Samsung et Dell Technologies. Ce financement a soutenu le lancement commercial de ses premiers produits et l'expansion de son écosystème logiciel.
Le 13 novembre 2019, Graphcore a annoncé que ses cartes IPU Graphcore C2 étaient disponibles en aperçu sur Microsoft Azure, marquant une étape importante dans le déploiement cloud. Le partenariat avec Microsoft a fourni aux premiers clients un accès à des instances alimentées par IPU pour la recherche et le développement en IA.
Au début de 2023, Meta Platforms a acquis l'équipe de technologie de réseau IA de Graphcore, une décision qui a vu plusieurs ingénieurs rejoindre le groupe d'infrastructure de Meta. Cette acquisition faisait partie de l'effort plus large de Meta pour construire du silicium personnalisé pour ses centres de données, bien que Graphcore ait conservé son activité IPU principale et son personnel restant.
En juillet 2024, SoftBank Group a accepté d'acquérir Graphcore pour environ 500 millions de dollars. L'accord, soumis à un examen réglementaire par l'unité de sécurité des investissements du gouvernement britannique, a marqué la fin de l'indépendance de Graphcore. L'acquisition par SoftBank a été perçue comme une décision stratégique pour renforcer son portefeuille de puces IA, qui comprenait déjà des actions d'ARM Holdings et de Nvidia.
Produits
La principale gamme de produits de Graphcore est l'unité de traitement de l'intelligence (IPU), un processeur conçu de zéro pour les charges de travail d'IA et d'apprentissage automatique. Contrairement aux GPU traditionnels, optimisés pour les graphiques puis adaptés à l'IA, l'architecture IPU privilégie le traitement parallèle et la bande passante mémoire sur puce.
En 2016, Graphcore a annoncé la pile logicielle Poplar, la première chaîne d'outils basée sur des graphes conçue spécifiquement pour son IPU. Poplar permet aux développeurs de mapper des modèles d'apprentissage automatique sur les nombreux cœurs de l'IPU, en abstraisant les complexités de la programmation parallèle.
En juillet 2017, Graphcore a dévoilé sa première puce, le Colossus GC2, un processeur de 16 nm avec 1 216 cœurs et 256 Ko de mémoire dans le processeur par cœur. Le GC2 était conditionné sur une carte PCI Express appelée Graphcore C2, contenant deux puces GC2, offrant un total de 2 432 cœurs et 512 Mo de mémoire sur puce. La carte C2 était conçue pour être insérée dans des serveurs standard, comme les GPU, et prenait en charge des frameworks d'apprentissage automatique populaires tels que TensorFlow et PyTorch.
En juillet 2020, Graphcore a introduit son processeur de deuxième génération, le Colossus GC200, fabriqué avec le processus 7 nm de TSMC. Le GC200 comportait 1 472 cœurs, 900 Mo de mémoire dans le processeur et 59 milliards de transistors, ce qui en faisait l'une des plus grandes puces jamais produites à l'époque. Le GC200 était proposé dans les systèmes Mk2 IPU-POD, qui pouvaient être mis à l'échelle d'une seule carte à de grands clusters avec des milliers d'IPU.
En 2022, Graphcore et TSMC ont collaboré sur le Bow IPU, une version du GC200 à conditionnement 3D qui liait une puce de distribution d'énergie à la puce du processeur. Cette technique de conditionnement avancée permettait des vitesses d'horloge plus élevées tout en réduisant la consommation d'énergie, améliorant ainsi les performances par watt.
Le GC2 et le GC200 prennent en charge 6 threads par cœur, permettant au GC2 d'exécuter 7 296 threads et au GC200 d'exécuter 8 832 threads simultanément. L'architecture de l'IPU est basée sur le parallélisme MIMD (Multiple Instruction, Multiple Data), chaque cœur exécutant des instructions indépendantes. Contrairement aux GPU, qui reposent sur des hiérarchies de mémoire partagée, l'IPU utilise une mémoire locale distribuée, chaque cœur ayant son propre bloc de mémoire dédié. Cette conception élimine le besoin d'une hiérarchie de cache séparée, car toutes les données résident dans la mémoire sur puce, réduisant la latence et la consommation d'énergie.
L'IPU prend en charge l'arithmétique en virgule flottante demi-précision (FP16) IEEE 754 avec arrondi stochastique, particulièrement adaptée à l'entraînement en IA. Elle prend également en charge la simple précision (FP32) à des performances inférieures pour les applications nécessitant une précision numérique plus élevée. Le processeur est conçu pour exécuter des modèles d'apprentissage automatique entiers dans sa mémoire sur puce, évitant les transferts de données hors puce fréquents qui créent des goulots d'étranglement dans les architectures traditionnelles.
La pile logicielle de Graphcore, y compris Poplar et la bibliothèque PopART, fournit des outils pour la compilation, l'optimisation et l'exécution de modèles. L'entreprise a également développé PopDist, un framework d'entraînement distribué, et PopSparse, une bibliothèque pour les opérations de matrices creuses. Ces outils visent à faciliter le portage de modèles existants vers l'IPU et à exploiter ses capacités uniques.
Voir aussi
- Accélérateur d'IA
- Réseau de processeurs massivement parallèles
- Unité de traitement tensoriel
- Cerebras
- Groq
Références
- "Graphcore - About Us". Graphcore. Consulté le 2025-01-01.
- "Graphcore raises $200M at $1.7B valuation". TechCrunch. 2018-12-18.
- "Meta acquires Graphcore's AI networking team". The Register. 2023-03-10.
- "SoftBank to acquire Graphcore". Financial Times. 2024-07-11.
- "Graphcore unveils Colossus GC200". AnandTech. 2020-07-15.
- "Graphcore and TSMC announce Bow IPU". Graphcore Press Release. 2022-05-25.