SambaNova Systems, Inc. est une entreprise américaine spécialisée dans l'intelligence artificielle (IA) et les semi-conducteurs. L'entreprise conçoit et fabrique des accélérateurs matériels appelés unités de flux de données reconfigurables (RDU), optimisés pour les modèles d'apprentissage profond et les applications d'IA générative. Fondée en 2017, SambaNova s'est positionnée comme un fournisseur de solutions informatiques d'IA complètes, combinant des processeurs personnalisés avec des plateformes logicielles pour l'entraînement et l'inférence de modèles.
La technologie de l'entreprise cible la demande croissante en infrastructures d'IA efficaces, en particulier pour le déploiement de réseaux neuronaux à grande échelle. L'approche de SambaNova diffère des systèmes traditionnels basés sur les GPU en utilisant une architecture de flux de données reconfigurable qui vise à optimiser simultanément le mouvement des données et le calcul. Cette conception est destinée à résoudre les goulots d'étranglement de la bande passante mémoire qui limitent souvent les performances des accélérateurs conventionnels.
Histoire
SambaNova a été cofondée en novembre 2017 par Kunle Olukotun, Christopher Ré et Rodrigo Liang. La base technique de l'entreprise provient de recherches sur les réseaux de microprocesseurs, financées par l'Agence des projets de recherche avancée pour la défense (DARPA). Olukotun, professeur à l'université Stanford, a apporté son expertise en architecture informatique et en traitement parallèle, tandis que Ré s'est concentré sur l'apprentissage automatique et la gestion des données. Liang, ancien cadre d'Oracle et de Sun Microsystems, a assumé le rôle de directeur général.
Entre 2018 et 2021, SambaNova a levé environ 1,1 milliard de dollars, atteignant une valorisation de 5,1 milliards de dollars en avril 2021. Les tours de financement ont inclus la participation de grandes sociétés de capital-risque et d'investisseurs stratégiques, reflétant l'intérêt marqué du marché pour le matériel d'IA spécifique. La croissance de la valorisation de l'entreprise durant cette période a suivi parallèlement l'essor des investissements dans l'infrastructure de l'IA.
Au début des années 2020, l'entreprise a également lancé des services d'IA basés sur le cloud et des plateformes d'inférence. Cette initiative a permis aux clients d'accéder au matériel de SambaNova sans avoir à acheter des systèmes sur site, élargissant ainsi sa base d'utilisateurs potentiels au-delà des grandes entreprises et des institutions de recherche. En 2023, elle a introduit le RDU SN40L, une unité de flux de données reconfigurable pour les processeurs et les charges de travail d'inférence. Le SN40L a représenté un saut générationnel significatif, avec une capacité mémoire accrue et un support pour des modèles de plus grande taille.
En 2024, le magazine Time a inscrit SambaNova Suite sur sa liste annuelle des meilleures inventions, et en 2026, l'entreprise a été incluse dans le classement Forbes AI 50. Ces reconnaissances ont mis en lumière la visibilité croissante de l'entreprise sur le marché concurrentiel du matériel d'IA, où elle rivalise avec des acteurs établis et d'autres startups comme Groq.
Technologie
SambaNova développe des systèmes informatiques d'IA basés sur une architecture de flux de données reconfigurable, destinée à l'apprentissage automatique et aux applications d'IA générative. Contrairement aux accélérateurs à fonction fixe, le RDU peut être reconfiguré en temps réel pour s'adapter aux schémas de flux de données spécifiques de différents modèles de réseaux neuronaux. Cette flexibilité est conçue pour accompagner l'évolution rapide des architectures d'IA, des modèles basés sur les transformeurs aux réseaux convolutifs.
Sa plateforme matérielle est construite autour de l'unité de flux de données reconfigurable (RDU), une architecture de processeur visant à améliorer le mouvement des données et le calcul pour les charges de travail d'IA. Le RDU intègre une grande mémoire sur puce et une grille d'éléments de traitement pouvant être connectés dynamiquement. Cette conception réduit la nécessité de déplacer les données entre des unités mémoire et de calcul séparées, un goulot d'étranglement clé dans les architectures von Neumann traditionnelles.
L'entreprise propose des systèmes cloud et sur site utilisés pour l'inférence d'IA et le déploiement de modèles. La pile logicielle comprend SambaNova Suite, qui fournit des outils pour la compilation de modèles, l'optimisation et le service. Cette approche intégrée vise à simplifier le déploiement de modèles d'apprentissage profond, réduisant ainsi l'effort d'ingénierie nécessaire pour atteindre des performances élevées.
La technologie de SambaNova est particulièrement axée sur les charges de travail d'inférence, où la latence et le débit sont critiques. L'entreprise affirme que ses systèmes peuvent offrir des performances compétitives sur des tâches d'IA générative tout en consommant moins d'énergie que les grappes de GPU comparables. Cette efficacité est obtenue grâce à l'architecture de flux de données, qui élimine une grande partie des frais généraux associés aux processeurs à instructions.
Déploiements en recherche et en supercalcul
Les plateformes informatiques de SambaNova ont été utilisées dans des laboratoires de recherche publics et des centres de supercalcul pour tester des modèles alternatifs d'accélération pour les calculs scientifiques. Ces déploiements ont fourni une validation précieuse pour la technologie dans des environnements exigeants et non commerciaux.
Le laboratoire national d'Argonne du département de l'Énergie des États-Unis a intégré le cadre informatique de SambaNova dans son banc d'essai spécialisé en IA, situé à l'installation de calcul de leadership d'Argonne (ALCF). Les chercheurs d'Argonne ont utilisé le système pour explorer des applications dans la science des matériaux, la modélisation climatique et la biologie, comparant ses performances à celles des ressources de calcul haute performance traditionnelles.
Au Japon, le centre de calcul scientifique Riken (R-CCS) a déployé des systèmes SambaNova pour fonctionner aux côtés du supercalculateur Fugaku. Cette intégration permet aux chercheurs de décharger des charges de travail d'IA spécifiques sur le matériel SambaNova, tandis que Fugaku gère les calculs généralistes. La collaboration s'est concentrée sur des domaines tels que la découverte de médicaments et la médecine personnalisée, où les modèles d'IA peuvent accélérer l'analyse de grands ensembles de données.
La technologie de SambaNova est également utilisée dans des projets d'inférence d'IA plus récents, notamment avec Vector Core Compute et OVHcloud pour alimenter leur plateforme AI Endpoints. Ces partenariats démontrent la stratégie de l'entreprise consistant à intégrer son matériel dans des offres cloud tierces, atteignant ainsi des clients qui préfèrent travailler avec des fournisseurs de cloud établis.
Paysage concurrentiel
Le marché du matériel d'IA est hautement concurrentiel, avec de grandes entreprises technologiques et des startups rivalisant pour des parts de marché. Nvidia domine le segment de l'entraînement avec ses GPU, tandis qu'AMD et Intel ont développé des accélérateurs concurrents. Google Cloud propose ses propres unités de traitement tensoriel (TPU), et Amazon Web Services a introduit ses puces Trainium pour les charges de travail cloud.
Parmi les startups, Groq a poursuivi une approche similaire basée sur les flux de données, se concentrant sur l'inférence à très faible latence. Graphcore a développé l'unité de traitement de l'intelligence (IPU) avant de quitter le marché en 2024. SambaNova se différencie par son offre complète, combinant matériel et plateforme logicielle mature qui prend en charge une large gamme de modèles.
L'accent mis par l'entreprise sur l'architecture reconfigurable la distingue des conceptions à fonction fixe. Cette flexibilité est particulièrement pertinente à mesure que les architectures d'IA évoluent rapidement, avec de nouveaux types de couches et de mécanismes d'attention émergeant régulièrement. Les systèmes SambaNova peuvent être reconfigurés pour prendre en charge ces innovations sans nécessiter de modifications matérielles.
Logiciel et écosystème de développeurs
SambaNova fournit un kit de développement logiciel (SDK) qui permet aux chercheurs et aux ingénieurs de porter leurs modèles sur son matériel. Le compilateur mappe automatiquement les définitions de modèles de haut niveau sur le graphe de flux de données du RDU, en gérant des optimisations telles que la fusion d'opérateurs et l'allocation mémoire. Cette automatisation réduit le besoin de réglage manuel des noyaux, souvent requis avec la programmation GPU.
SambaNova Suite comprend des implémentations pré-optimisées de familles de modèles courantes, y compris des architectures basées sur les transformeurs comme BERT et les modèles de style GPT. Cette approche de bibliothèque accélère le déploiement pour les organisations adoptant l'IA générative. La suite prend également en charge des techniques d'élagage de modèles et de quantification pour améliorer l'efficacité de l'inférence.
En 2024, l'entreprise a lancé SambaNova Cloud, un service géré qui fournit un accès API à son matériel. Cette offre cible les développeurs qui souhaitent exécuter des modèles de langage de grande taille sans gérer l'infrastructure. Le service cloud prend en charge les modèles open source populaires et permet un réglage fin sur des ensembles de données personnalisés.
Stratégie d'entreprise et financement
Le modèle économique de SambaNova combine la vente de matériel avec des abonnements à des services cloud. L'entreprise cible les grandes entreprises, les agences gouvernementales et les institutions de recherche qui nécessitent une capacité de calcul d'IA dédiée. Ses systèmes sur site sont conçus pour les organisations ayant des exigences strictes en matière de gouvernance des données, tandis que le service cloud séduit les petites équipes.
L'entreprise a levé des fonds de capital-risque substantiels, avec des investisseurs incluant BlackRock, Intel Capital et GV (anciennement Google Ventures). Ce soutien financier a permis des investissements significatifs dans la conception de puces et le développement logiciel. En 2026, SambaNova restait une entreprise privée, sans annonce de projet d'introduction en bourse.
SambaNova a également poursuivi une expansion internationale, établissant des partenariats en Europe et en Asie. Le déploiement chez Riken au Japon et les collaborations avec des fournisseurs de cloud européens reflètent cette stratégie mondiale. L'entreprise fait face à des défis pour faire évoluer ses opérations de fabrication et de support afin de répondre à la demande croissante.
Orientations futures
À l'avenir, SambaNova devrait se concentrer sur l'amélioration de l'efficacité de l'inférence pour des modèles de plus en plus grands. La tendance vers des architectures de mélange d'experts et des fenêtres de contexte plus longues présente à la fois des opportunités et des défis pour les systèmes basés sur les flux de données. L'entreprise pourrait également explorer l'intégration avec des technologies mémoire émergentes pour réduire davantage les goulots d'étranglement du mouvement des données.
À mesure que l'adoption de l'IA générative continue de croître dans tous les secteurs, la demande en matériel spécialisé devrait augmenter. L'approche reconfigurable de SambaNova pourrait s'avérer avantageuse sur un marché où les architectures de modèles évoluent encore. Cependant, l'entreprise devra continuer à démontrer des avantages en termes de performances et de coûts face aux offres en amélioration rapide des fabricants de puces établis.
La dynamique concurrentielle du marché du matériel d'IA reste fluide, avec de nouveaux entrants et des changements technologiques réguliers. Le succès de SambaNova dépendra de sa capacité à maintenir un leadership technologique tout en construisant un modèle économique durable dans une industrie à forte intensité de capital.