Graphcore Limited est une entreprise britannique de semi-conducteurs qui conçoit des accélérateurs pour les charges de travail d'intelligence artificielle et d'apprentissage automatique. L'entreprise est surtout connue pour son unité de traitement de l'intelligence (IPU), un processeur massivement parallèle qui conserve l'intégralité du modèle d'apprentissage automatique dans la puce elle-même, contrairement aux unités de traitement graphique (GPU) conventionnelles qui dépendent de la mémoire externe. La technologie de Graphcore cible à la fois l'entraînement et l'inférence des réseaux de neurones, visant à offrir une alternative aux systèmes basés sur GPU pour le calcul en IA.
Fondée en 2016, Graphcore a connu une croissance rapide grâce à plusieurs cycles de financement, atteignant une valorisation de 1,7 milliard de dollars en décembre 2018. Les produits de l'entreprise, notamment les processeurs Colossus GC2 et GC200, ont été utilisés dans des environnements cloud et d'entreprise. En juillet 2024, le groupe SoftBank a accepté d'acquérir Graphcore pour environ 500 millions de dollars, une transaction qui était en cours d'examen réglementaire au Royaume-Uni.
Historique
Graphcore a été fondée en 2016 par Simon Knowles et Nigel Toon, tous deux vétérans de l'industrie des semi-conducteurs. Knowles avait auparavant cofondé Icera, une entreprise de processeurs de bande de base acquise par NVIDIA, tandis que Toon avait dirigé plusieurs startups de puces. L'entreprise s'est donné pour mission de concevoir des processeurs spécifiquement pour l'intelligence machine, un créneau alors dominé par les GPU.
À l'automne 2016, Graphcore a obtenu son premier cycle de financement majeur, dirigé par Robert Bosch Venture Capital. Parmi les autres investisseurs figuraient Samsung, Amadeus Capital Partners, C4 Ventures, Draper Esprit, Foundation Capital et Pitango. Ce soutien précoce a permis à l'entreprise de commencer à développer son architecture IPU et sa pile logicielle.
Un cycle de série B a suivi en juillet 2017, dirigé par Atomico, avec un financement supplémentaire de Sequoia Capital quelques mois plus tard. En décembre 2018, Graphcore a clôturé un cycle de série D de 200 millions de dollars à une valorisation de 1,7 milliard de dollars, devenant ainsi une « licorne » (une entreprise privée valorisée à plus d'un milliard de dollars). Les investisseurs de ce cycle comprenaient Microsoft, Samsung et Dell Technologies.
En novembre 2019, Graphcore a annoncé que ses cartes IPU C2 étaient disponibles en aperçu sur Microsoft Azure, marquant un déploiement cloud significatif. L'entreprise a continué à élargir sa gamme de produits et ses partenariats, mais a également fait face à des défis dans un marché concurrentiel dominé par NVIDIA.
Au début de 2023, Meta Platforms a acquis l'équipe de technologie de réseau IA de Graphcore, une décision perçue comme un désinvestissement stratégique. Les conditions financières n'ont pas été divulguées, mais cela a permis à Graphcore de se concentrer sur son activité principale de processeurs.
En juillet 2024, le groupe SoftBank a accepté d'acquérir Graphcore pour environ 500 millions de dollars. La transaction était en cours d'examen par l'unité de sécurité des investissements du département des affaires du Royaume-Uni, reflétant des préoccupations de sécurité nationale dans le secteur des semi-conducteurs. L'acquisition était censée fournir à Graphcore des ressources supplémentaires pour poursuivre ses efforts de développement.
Produits et technologie
La gamme de produits principale de Graphcore est basée sur l'unité de traitement de l'intelligence (IPU), un processeur conçu de zéro pour les charges de travail IA. L'architecture IPU diffère considérablement des GPU : elle utilise un réseau massivement parallèle de cœurs, chacun avec sa propre mémoire locale, et l'intégralité du modèle d'apprentissage automatique est stockée sur la puce. Cette conception réduit le besoin de déplacement de données entre la mémoire et le processeur, un goulot d'étranglement majeur dans les architectures traditionnelles.
La première puce IPU, appelée Colossus GC2, a été annoncée en juillet 2017. Il s'agissait d'un processeur à virgule flottante massivement parallèle et à précision mixte de 16 nm, devenu disponible en 2018. Le GC2 était conditionné avec deux puces sur une seule carte PCI Express, connue sous le nom de Graphcore C2 IPU. Cette carte était conçue pour jouer le même rôle qu'un GPU en conjonction avec des frameworks d'apprentissage automatique standard tels que TensorFlow. Le dispositif reposait sur la mémoire scratchpad pour ses performances plutôt que sur des hiérarchies de cache traditionnelles.
En juillet 2020, Graphcore a introduit son processeur de deuxième génération, le GC200, fabriqué à l'aide du procédé de fabrication 7nm FinFET de TSMC. Le GC200 est un circuit intégré de 59 milliards de transistors, de 823 millimètres carrés, avec 1 472 cœurs de calcul et 900 Mo de mémoire locale. En 2022, Graphcore et TSMC ont présenté le Bow IPU, un packaging 3D qui lie une puce GC200 face à face avec une puce de distribution d'alimentation, permettant des fréquences d'horloge plus élevées à des tensions de cœur plus faibles.
Les puces GC2 et GC200 utilisent toutes deux 6 threads par tuile, pour un total de 7 296 et 8 832 threads respectivement. Elles emploient le parallélisme MIMD (Multiple Instruction, Multiple Data) et ont une mémoire locale distribuée comme seule forme de mémoire sur le dispositif, à l'exception des registres. La puce GC2 plus ancienne a 256 Ko par tuile, tandis que la GC200 plus récente a environ 630 Ko par tuile, organisés en îlots de 4 tuiles, eux-mêmes organisés en colonnes. La latence est la meilleure au sein d'une tuile.
L'IPU prend en charge l'IEEE FP16 avec arrondi stochastique, ainsi que le FP32 en simple précision à des performances inférieures. Le code et les données exécutés localement doivent tenir dans une tuile, mais avec le passage de messages, toute la mémoire sur puce ou hors puce peut être utilisée. Les logiciels pour l'IA rendent cela possible de manière transparente, par exemple via le support de PyTorch.
Pile logicielle
En 2016, Graphcore a annoncé la première chaîne d'outils graphiques au monde conçue pour l'intelligence machine, appelée pile logicielle Poplar. Poplar est un kit de développement logiciel complet qui comprend un compilateur de graphes, un runtime et des bibliothèques pour construire et déployer des modèles IA. Il abstrait les complexités du matériel IPU, permettant aux développeurs d'écrire du code de haut niveau dans des frameworks comme TensorFlow et PyTorch.
L'approche basée sur les graphes de Poplar est bien adaptée à l'architecture IPU, qui est elle-même un graphe de tuiles de traitement. Le compilateur mappe le graphe computationnel d'un réseau de neurones sur les tuiles de l'IPU, en optimisant l'utilisation de la mémoire et la communication. Le runtime gère l'exécution du graphe sur le matériel, y compris la planification et le déplacement des données.
La pile logicielle comprend également PopART, une bibliothèque pour l'inférence, et PopNN, une bibliothèque pour construire des réseaux de neurones. Ces outils sont conçus pour être interopérables avec les frameworks IA existants, facilitant ainsi l'adoption de la technologie IPU par les développeurs.
Position sur le marché et concurrence
Graphcore opère dans le domaine hautement concurrentiel des accélérateurs IA, où NVIDIA a historiquement dominé avec ses GPU. Parmi les autres concurrents figurent AMD avec sa gamme Instinct, Intel avec ses processeurs Gaudi, et des startups comme Groq et SambaNova. L'IPU de Graphcore se différencie en se concentrant sur le calcul en mémoire et une architecture massivement parallèle, ce qui peut offrir des avantages pour certains types de modèles, en particulier ceux ayant de grandes empreintes mémoire.
L'entreprise a ciblé à la fois les marchés du cloud et de la périphérie. Ses processeurs ont été déployés dans des centres de données grâce à des partenariats avec des fournisseurs de cloud comme Microsoft Azure et Oracle Cloud. Graphcore a également travaillé avec des institutions de recherche et des entreprises pour accélérer les charges de travail IA dans des domaines tels que le traitement du langage naturel, la vision par ordinateur et le calcul scientifique.
Malgré ses innovations technologiques, Graphcore a rencontré des défis pour développer son activité. Le marché des accélérateurs IA est intensif en capital, et l'entreprise a eu du mal à concurrencer l'écosystème et la maturité logicielle de NVIDIA. L'acquisition par SoftBank est perçue comme un moyen d'assurer la stabilité financière et d'accéder à des ressources plus larges.
Orientations futures
Graphcore a déclaré son ambition de construire une « bonne machine », nommée d'après I.J. Good, un mathématicien britannique qui a travaillé avec Alan Turing. L'objectif est de permettre des modèles IA avec plus de paramètres que le cerveau humain n'a de synapses, ce qui nécessiterait des avancées significatives à la fois en matériel et en logiciel. L'entreprise continue de développer son architecture IPU, avec des plans pour des générations futures qui pourraient offrir des performances et une efficacité encore plus élevées.
L'acquisition par SoftBank devrait accélérer ces efforts. SoftBank a un historique d'investissement dans des entreprises d'IA et de semi-conducteurs, notamment Arm Holdings, et pourrait fournir à Graphcore le capital nécessaire pour étendre sa fabrication et sa portée mondiale. L'approbation réglementaire de la transaction est encore en attente, mais si elle est finalisée, elle pourrait marquer un nouveau chapitre pour le concepteur de puces britannique.