Habana Labs est une entreprise de semi-conducteurs sans usine spécialisée dans les accélérateurs d'intelligence artificielle (IA) pour les charges de travail des centres de données. Fondée en 2016 à Tel Aviv, en Israël, l'entreprise développe des processeurs conçus pour accélérer les tâches d'apprentissage profond et d'inférence, se positionnant comme une alternative aux GPU généralistes. En décembre 2019, Intel a acquis Habana Labs pour environ 2 milliards de dollars, intégrant sa technologie dans le portefeuille d'IA et la stratégie des centres de données d'Intel.
La gamme de produits de l'entreprise comprend le processeur d'inférence Goya et le processeur d'entraînement Gaudi. Goya, lancé en 2018, cible l'inférence à haut débit et à faible latence pour les réseaux neuronaux. Gaudi, annoncé en 2019, est conçu pour l'entraînement de modèles d'apprentissage profond à grande échelle, offrant une évolutivité sur plusieurs accélérateurs. Les processeurs de Habana utilisent une architecture spécialisée qui équilibre le calcul, la mémoire et la mise en réseau pour optimiser la performance par watt, un critère clé pour les opérateurs de centres de données.
Historique et fondation
Habana Labs a été cofondée en 2016 par David Dahan, Ran Halutz et Eilon Reshef, tous vétérans de l'industrie des semi-conducteurs en Israël. Les fondateurs avaient auparavant travaillé dans des entreprises telles qu'Intel et Mellanox, et ils visaient à répondre à la demande croissante en puissance de calcul pour l'intelligence artificielle. L'entreprise a d'abord fonctionné en mode furtif, développant son architecture et obtenant un financement initial. En 2018, Habana a dévoilé son premier produit, le processeur d'inférence Goya, et a annoncé un partenariat stratégique avec Intel pour les déploiements dans le cloud et les centres de données.
L'acquisition par Intel en décembre 2019 a marqué une étape importante. Intel a payé environ 2 milliards de dollars, faisant de Habana une filiale à part entière. Cette opération s'inscrivait dans la stratégie plus large d'Intel visant à renforcer sa position dans le domaine de l'IA, en concurrence avec NVIDIA et AMD. Après l'acquisition, Habana a continué à fonctionner comme une unité indépendante au sein d'Intel, sa direction relevant directement du groupe des centres de données d'Intel. La technologie de Habana a été positionnée pour compléter les accélérateurs d'IA existants d'Intel, comme la gamme Nervana, qui a ensuite été abandonnée au profit des conceptions de Habana.
Produits et technologie
Les processeurs de Habana sont basés sur une architecture personnalisée qui diffère des approches traditionnelles basées sur les GPU. Le processeur d'inférence Goya, lancé en 2018, offre un débit allant jusqu'à 15 000 images par seconde pour le benchmark ResNet-50, tout en consommant moins de 100 watts. Cette performance par watt a rendu Goya attrayant pour les fournisseurs de cloud et les entreprises cherchant à réduire leurs coûts opérationnels. Le processeur d'entraînement Gaudi, annoncé en 2019, intègre 32 Go de mémoire sur puce et prend en charge une interconnexion à haut débit via Ethernet, permettant une mise à l'échelle efficace sur plusieurs nœuds.
Un principe de conception clé est l'utilisation d'une architecture hétérogène comprenant des cœurs de calcul tensoriel dédiés, un processeur de contrôle programmable et un sous-système de mémoire à large bande passante. Cela permet aux processeurs de Habana de gérer à la fois les réseaux neuronaux convolutionnels et les transformeurs, y compris les Large language models. L'entreprise fournit également une pile logicielle complète, comprenant un compilateur et un environnement d'exécution, qui prend en charge des frameworks populaires comme TensorFlow et PyTorch, facilitant ainsi l'adoption par les développeurs.
Position sur le marché et concurrence
Habana Labs opère dans un paysage concurrentiel dominé par NVIDIA, dont les GPU sont devenus la norme de facto pour l'entraînement et l'inférence en IA. L'acquisition par Intel a été une manœuvre stratégique pour contester la domination de Nvidia, en tirant parti des capacités de fabrication et des relations clients d'Intel. Cependant, la part de marché de Habana reste modeste par rapport à Nvidia, qui contrôle plus de 80 % du marché des accélérateurs d'IA en 2024. Les autres concurrents incluent AMD avec sa gamme Instinct, Cerebras avec ses processeurs à l'échelle de la plaquette, et Groq avec ses puces spécialisées pour l'inférence de modèles de langage.
La différenciation de Habana repose sur son accent mis sur l'efficacité et l'évolutivité. Par exemple, le processeur Gaudi 2, lancé en 2022, offre des performances d'entraînement compétitives pour les grands modèles de langage tout en consommant moins d'énergie que les GPU comparables. Cela a suscité l'intérêt de fournisseurs de services cloud comme Amazon Web Services, qui propose des instances basées sur Gaudi, et Microsoft Azure, qui a intégré les accélérateurs de Habana dans ses offres cloud. Malgré ces succès, Habana doit relever des défis liés à la maturité de son écosystème logiciel, car de nombreux développeurs d'IA sont habitués à la plateforme CUDA de Nvidia.
Impact et perspectives d'avenir
Sous la direction d'Intel, Habana Labs a contribué à la stratégie d'Intel dans le domaine de l'IA, en particulier pour les centres de données et l'informatique en périphérie. Les processeurs de l'entreprise sont utilisés dans les offres d'Intel pour les charges de travail d'IA générative, avec le processeur Gaudi 3 annoncé en 2024. Habana soutient également les efforts d'Intel dans le domaine de l'Generative AI, en établissant des partenariats avec OpenAI et Anthropic pour les déploiements d'inférence, bien que ces collaborations puissent évoluer.
À l'avenir, Habana vise à étendre sa présence sur le marché des accélérateurs d'IA, en capitalisant sur la demande croissante pour les applications de Machine learning et de Deep learning. L'entreprise continue d'investir dans le développement logiciel et de nouer des partenariats avec des fournisseurs de cloud, notamment Google Cloud et Oracle Cloud Infrastructure. Cependant, le marché évolue rapidement, avec l'émergence de nouveaux acteurs et des avancées technologiques, comme la montée en puissance des architectures de Transformer (architecture), ce qui impose une innovation constante. En 2025, l'avenir de Habana dépendra de l'engagement d'Intel envers la gamme de produits et de sa capacité à gagner des parts de marché face à des concurrents bien établis.