Gaudi est une famille de circuits intégrés spécifiques à une application (ASIC) conçus par Intel pour accélérer les charges de travail de apprentissage profond, en particulier l'entraînement et l'inférence de grands modèles de langage. L'architecture met l'accent sur une approche de calcul hétérogène, intégrant plusieurs cœurs de traitement tensoriel avec un réseau sur puce dédié et une mémoire à haute bande passante (HBM) pour permettre une mise à l'échelle efficace sur plusieurs accélérateurs. Les processeurs Gaudi sont positionnés comme des concurrents des accélérateurs basés sur GPU de Nvidia et d'autres puces IA telles que la série Instinct de AMD et les TPU de Google Cloud.
Le processeur Gaudi de première génération, annoncé en 2019, a été développé par Habana Labs, une startup israélienne de puces IA acquise par Intel en 2019 pour environ 2 milliards de dollars. La deuxième génération, Gaudi 2, lancée en 2022, et la troisième génération, Gaudi 3, a été dévoilée en 2024. Intel commercialise Gaudi comme une alternative rentable pour l'entraînement et l'inférence en IA, avec un accent sur les écosystèmes logiciels ouverts et le support de frameworks populaires comme PyTorch et TensorFlow.
Historique
Les origines de Gaudi remontent à Habana Labs, fondée en 2016 par David Dahan, Ran Halutz et d'autres, avec son siège à Césarée, en Israël. L'entreprise a d'abord développé la puce d'inférence Goya, publiée en 2018, avant de se concentrer sur l'entraînement avec Gaudi. Intel a acquis Habana Labs en décembre 2019, intégrant l'équipe dans son groupe Data Platforms. Cette acquisition faisait partie de la stratégie plus large d'Intel pour concurrencer sur le marché des accélérateurs IA, dominé par Nvidia.
Architecture
Les processeurs Gaudi sont construits autour d'une architecture hétérogène qui combine plusieurs cœurs de traitement tensoriel (TPC) avec une structure réseau évolutive. Cette conception permet une communication efficace entre les cœurs et une utilisation optimale de la mémoire à haute bande passante, facilitant l'entraînement de modèles à grande échelle.
Générations
Gaudi 1
Le processeur Gaudi de première génération, publié en 2019, comportait 32 TPC et était accompagné de la pile logicielle SynapseAI, qui fournit un compilateur, un runtime et des bibliothèques optimisés pour le matériel. SynapseAI s'intègre avec les frameworks d'apprentissage profond populaires, permettant une adoption simplifiée.
Gaudi 2
La deuxième génération, Gaudi 2, lancée en 2022, a amélioré les performances et l'efficacité énergétique. En 2023, Intel a affirmé que Gaudi 2 offrait un rapport prix-performance 1,5 à 2 fois meilleur que les solutions concurrentes, en particulier pour l'entraînement et l'inférence de grands modèles de langage.
Gaudi 3
La troisième génération, Gaudi 3, dévoilée en 2024, a poursuivi cette tendance avec des améliorations supplémentaires en termes de puissance de calcul et de mémoire. Intel a également mis en avant l'efficacité énergétique de Gaudi 3, un critère de plus en plus important pour les centres de données.
Réception et critiques
Les analystes de l'industrie ont généralement considéré Gaudi comme une alternative crédible à Nvidia, mais notent que la maturité logicielle et le support de l'écosystème restent plus faibles. Certains critiques soulignent que les affirmations de performance d'Intel sont souvent basées sur des configurations spécifiques qui peuvent ne pas refléter les performances réelles. De plus, la domination logicielle de Nvidia a constitué un obstacle à l'adoption généralisée de Gaudi.
Applications
Les processeurs Gaudi sont utilisés pour l'entraînement et l'inférence de modèles d'apprentissage profond, avec un accent sur les grands modèles de langage, la vision par ordinateur et les systèmes de recommandation. Ils sont déployés dans les centres de données cloud, les systèmes d'entreprise sur site et les environnements de périphérie. Les cas d'utilisation clés incluent le traitement du langage naturel, la reconnaissance d'images et les applications d'IA générative telles que les chatbots et la génération de contenu.
Développements futurs
Intel a annoncé son intention de continuer à développer la famille Gaudi, avec Gaudi 4 attendu pour 2025, utilisant un processus plus avancé et améliorant encore les performances. L'entreprise travaille également sur l'intégration de Gaudi avec ses processeurs Xeon et le modèle de programmation unifié oneAPI pour simplifier le calcul hétérogène. Intel vise à capturer une part plus importante du marché des accélérateurs IA, ciblant à la fois les segments cloud et entreprise.
Voir aussi
Références
- Intel Newsroom. « Intel Acquires Habana Labs to Expand AI Portfolio. » 16 décembre 2019.
- Habana Labs. « Gaudi Training Processor. » 2019.
- Intel. « Intel Gaudi 2 AI Accelerator. » 2022.
- Intel. « Intel Gaudi 3 AI Accelerator. » 2024.
- Documentation des fournisseurs cloud pour les instances Gaudi (AWS, IBM Cloud, Google Cloud).