Intel Habana Labs est l'unité commerciale d'accélérateurs d'intelligence artificielle d'Intel Corporation, créée après l'acquisition par Intel de la startup israélienne de puces IA Habana Labs en décembre 2019. La division développe des processeurs spécialisés conçus pour accélérer les charges de travail d'apprentissage automatique et d'apprentissage profond, en particulier pour l'entraînement et l'inférence à grande échelle dans les centres de données. Ses gammes de produits incluent les processeurs d'entraînement Gaudi et les processeurs d'inférence Greco, qui concurrencent les offres de NVIDIA, AMD et les siliciums personnalisés des fournisseurs de cloud tels que AWS Trainium et les TPU de Google. L'acquisition faisait partie de la stratégie plus large d'Intel visant à s'étendre au-delà de son activité traditionnelle de processeurs vers le marché en pleine croissance du matériel IA, stimulé par l'essor des grands modèles de langage et des systèmes d'IA générative développés par des entreprises comme OpenAI, Anthropic et Google DeepMind.
Habana Labs a été fondée en 2016 par David Dahan, Ran Halutz et Eitan Medina, tous des vétérans de l'industrie des semi-conducteurs israélienne. L'entreprise était basée à Tel Aviv, en Israël, avec des bureaux supplémentaires à San Jose, en Californie, et dans d'autres endroits. Avant l'acquisition par Intel, Habana avait levé des fonds de capital-risque importants, notamment un tour de table de série B de 75 millions de dollars en 2018 mené par Intel Capital et WRV Capital, et un tour de table de série C de 120 millions de dollars en novembre 2019, quelques semaines seulement avant l'acquisition. L'acquisition par Intel était évaluée à environ 2 milliards de dollars, ce qui en fait l'un des plus grands investissements liés à l'IA d'Intel.
Historique et formation
Habana Labs a été créée dans le but de développer des processeurs IA spécialisés capables de surpasser les GPU polyvalents dans les tâches d'entraînement et d'inférence. Les fondateurs avaient précédemment travaillé dans des entreprises telles qu'Intel, Mellanox et Texas Instruments, et ils visaient à remédier aux inefficacités de l'utilisation des GPU pour les charges de travail IA, qui nécessitaient souvent une puissance et une bande passante mémoire excessives. Le premier produit de l'entreprise, le processeur d'inférence Goya, a été annoncé en 2018 et a démontré de fortes performances sur les benchmarks ResNet-50, un modèle d'apprentissage profond courant pour la classification d'images. La puce Goya a été conçue pour offrir un débit élevé avec une faible latence, ce qui la rend adaptée aux applications d'inférence en temps réel.
En 2019, Habana a introduit le processeur d'entraînement Gaudi, conçu pour évoluer efficacement pour l'entraînement à grande échelle de l'apprentissage profond. Gaudi présentait une architecture spécialisée avec une mise en réseau Ethernet intégrée, permettant de connecter directement plusieurs puces sans avoir besoin de commutateurs externes, réduisant ainsi les coûts et la complexité dans les grands clusters. Cette conception visait particulièrement les opérateurs de centres de données qui devaient entraîner des réseaux neuronaux de plus en plus grands, tels que ceux utilisés dans le traitement du langage naturel et la vision par ordinateur.
Acquisition par Intel
Intel a annoncé l'acquisition de Habana Labs le 16 décembre 2019, pour environ 2 milliards de dollars. L'accord a été conclu au début de 2020. Intel a intégré Habana dans son groupe de plateformes de données, qui a ensuite été réorganisé en groupe de systèmes et graphiques de calcul accéléré (AXG). L'acquisition faisait partie de la stratégie d'Intel pour concurrencer sur le marché des accélérateurs IA, dominé par les GPU de NVIDIA. Intel avait précédemment acquis Nervana Systems en 2016, une autre startup de puces IA, mais ce projet a finalement été abandonné au profit de la technologie de Habana. Le PDG d'Intel de l'époque, Bob Swan, a déclaré que les produits de Habana compléteraient le portefeuille existant d'Intel et aideraient l'entreprise à répondre à la demande croissante de calcul IA.
Après l'acquisition, Habana a continué à fonctionner comme une filiale, avec ses fondateurs et ingénieurs restant en place. La division a conservé son siège israélien et a élargi ses équipes d'ingénierie. Intel a également investi dans le développement d'outils logiciels et de frameworks pour soutenir le matériel de Habana, y compris l'intégration avec des frameworks d'apprentissage automatique populaires comme TensorFlow et PyTorch.
Produits et architecture
Les principaux produits d'Intel Habana Labs sont les processeurs Gaudi et Greco. Gaudi est conçu pour l'entraînement de modèles d'apprentissage profond à grande échelle, tandis que Greco est optimisé pour les tâches d'inférence. Les deux sont basés sur une architecture personnalisée qui comprend un mélange de cœurs de processeur polyvalents, de moteurs de calcul IA dédiés et de mémoire à haute bande passante. Le processeur Gaudi, lancé pour la première fois en 2020, dispose de 32 Go de mémoire sur puce et prend en charge jusqu'à 8 000 processeurs Gaudi dans un seul cluster via Ethernet. La deuxième génération, Gaudi 2, lancée en 2022, a amélioré les performances et ajouté le support de modèles plus grands, y compris ceux avec des milliards de paramètres.
Greco, le processeur d'inférence, a été introduit en 2021 et est conçu pour des charges de travail d'inférence à faible latence et à haut débit. Il prend en charge des modèles d'apprentissage profond populaires tels que les transformeurs, qui sont la base de grands modèles de langage comme GPT-4 et BERT. Greco est disponible dans divers facteurs de forme, y compris des cartes PCIe et des systèmes modulaires, pour s'adapter à différents déploiements de centres de données.
Intel Habana Labs fournit également une pile logicielle appelée SynapseAI, qui comprend des compilateurs, des bibliothèques d'exécution et des outils pour optimiser les modèles sur le matériel Habana. SynapseAI prend en charge ONNX et les frameworks courants, permettant aux développeurs de porter des modèles avec des modifications minimales. Le logiciel est conçu pour optimiser automatiquement l'exécution du graphe et l'utilisation de la mémoire, réduisant ainsi le besoin de réglage manuel.
Position sur le marché et concurrence
Le marché des accélérateurs IA est hautement concurrentiel, avec des acteurs majeurs comme NVIDIA, AMD et des fournisseurs de cloud comme Amazon Web Services (AWS) avec ses puces Trainium, et Google Cloud avec ses TPU. Intel Habana Labs vise à se différencier par son efficacité de coût et son évolutivité, en particulier pour l'entraînement à grande échelle dans les centres de données. La mise en réseau Ethernet intégrée de Gaudi est un argument de vente clé, car elle réduit le besoin de commutateurs InfiniBand coûteux utilisés par les solutions NVLink et InfiniBand de NVIDIA. Intel a également positionné Habana comme une alternative plus ouverte, prenant en charge les interfaces Ethernet et PCIe standard de l'industrie.
Malgré ces avantages, Intel Habana Labs fait face à des défis pour gagner des parts de marché. L'écosystème logiciel CUDA de NVIDIA est profondément ancré, et de nombreux développeurs IA sont habitués à l'utiliser. Intel a tenté de remédier à cela en fournissant des couches de compatibilité et des outils pour faciliter la migration, mais l'adoption a été plus lente que prévu initialement. En 2024, la contribution des revenus d'Intel Habana Labs à l'activité globale des centres de données d'Intel reste modeste, mais la division a obtenu plusieurs clients notables, y compris des fournisseurs de services cloud et des institutions de recherche.
Rôle stratégique chez Intel
Intel Habana Labs est un composant clé de la stratégie IA plus large d'Intel, qui comprend également le développement du processeur Intel Gaudi 3, annoncé en 2024. Gaudi 3 devrait concurrencer directement les GPU H100 et H200 de NVIDIA, offrant des performances comparables à un coût inférieur. Intel a également intégré la technologie Habana dans ses processeurs Xeon, permettant l'accélération IA sur des processeurs polyvalents. La division travaille en étroite collaboration avec les services de fonderie d'Intel, qui fabriquent des puces pour des clients externes, et avec les équipes logicielles d'Intel pour garantir la compatibilité avec oneAPI, un modèle de programmation unifié pour le calcul hétérogène.
L'investissement d'Intel dans Habana reflète sa conviction que les charges de travail IA nécessiteront de plus en plus de matériel spécialisé, et que l'entreprise peut tirer parti de son expertise en fabrication et en packaging pour produire des accélérateurs IA compétitifs. Cependant, Intel a rencontré des défis de fabrication ces dernières années, y compris des retards dans ses nœuds de processus 7nm et 5nm, qui ont affecté la production des puces Gaudi. En 2024, Intel a externalisé une partie de la production des processeurs Habana à TSMC, une grande fonderie de semi-conducteurs, pour répondre à la demande.
Impact et perspectives futures
Intel Habana Labs a contribué à l'avancement du matériel IA en offrant une alternative aux systèmes basés sur GPU, en particulier pour les organisations qui privilégient l'efficacité de coût et l'évolutivité. L'accent mis par la division sur la mise en réseau Ethernet a influencé d'autres concepteurs de puces IA, tels que Groq et SambaNova, qui utilisent également des approches similaires. L'investissement continu d'Intel dans Habana suggère que l'entreprise considère les accélérateurs IA comme un domaine de croissance à long terme, malgré les défis concurrentiels.
À l'avenir, Intel Habana Labs devrait publier de nouveaux produits prenant en charge les charges de travail IA émergentes, y compris les grands modèles de langage et l'IA générative. La division explore également des moyens d'intégrer l'accélération IA dans les appareils de périphérie et d'autres facteurs de forme, s'étendant au-delà des centres de données. En 2025, Intel a annoncé des plans pour scinder son activité de fonderie, ce qui pourrait affecter la fabrication des puces Habana, mais la division elle-même reste un élément central de la stratégie IA d'Intel.