SambaNova Systems, Inc. est une entreprise américaine spécialisée dans l'intelligence artificielle (IA) et le matériel semi-conducteur, basée à Palo Alto, en Californie. L'entreprise conçoit et fabrique des accélérateurs matériels, appelés unités de flux de données reconfigurables (RDU), qui sont adaptés aux modèles d'apprentissage profond et aux applications d'IA générative. SambaNova fournit des systèmes informatiques à la fois cloud et sur site, destinés à accélérer l'entraînement et l'inférence de grands modèles de langage et d'autres charges de travail d'IA.
Fondée en novembre 2017, SambaNova a levé un capital-risque important, atteignant une valorisation de 5,1 milliards de dollars en avril 2021. L'entreprise a introduit son processeur RDU SN40L en 2023, et sa technologie a été déployée dans des institutions de recherche et des plateformes cloud commerciales. SambaNova est en concurrence sur le marché des accélérateurs d'IA avec des entreprises telles que Cerebras, Groq et NVIDIA (non fourni), en se concentrant sur une architecture reconfigurable qui diffère des conceptions à fonction fixe.
Histoire
SambaNova a été cofondée en novembre 2017 par Kunle Olukotun, Christopher Ré et Rodrigo Liang. Olukotun, professeur de génie électrique et d'informatique à l'Université de Stanford, avait précédemment travaillé sur les processeurs multi-cœurs et la mémoire transactionnelle. Ré, également professeur à Stanford, était spécialisé dans les systèmes d'apprentissage automatique et la gestion des données. Liang, qui a occupé le poste de PDG de l'entreprise, avait une expérience antérieure dans l'ingénierie des semi-conducteurs.
La base technique de SambaNova est issue de recherches sur les réseaux de microprocesseurs pour les systèmes d'apprentissage automatique, financées par la Defense Advanced Research Projects Agency (DARPA). Ces recherches ont informé l'architecture de flux de données reconfigurable qui est devenue la base des produits de l'entreprise.
Entre 2018 et 2021, SambaNova a levé environ 1,1 milliard de dollars de financement en plusieurs tours. L'entreprise a atteint une valorisation de 5,1 milliards de dollars en avril 2021, avec des investissements de sociétés de capital-risque et de partenaires stratégiques. Ce capital a soutenu le développement de sa pile matérielle et logicielle, ainsi que l'expansion de ses services cloud.
Au début des années 2020, SambaNova a lancé des services d'IA cloud et des plateformes d'inférence, permettant aux clients d'accéder à ses accélérateurs sans acheter de matériel directement. En 2023, l'entreprise a introduit le SN40L, une unité de flux de données reconfigurable (RDU), un processeur conçu pour les charges de travail d'entraînement et d'inférence de modèles d'IA.
En 2024, le magazine Time a inscrit SambaNova Suite sur sa liste annuelle des meilleures inventions. En 2026, l'entreprise a été incluse dans le Forbes AI 50, une liste reconnaissant les principales entreprises privées d'IA.
Technologie
Le cœur de la technologie de SambaNova est l'unité de flux de données reconfigurable (RDU), une architecture de processeur qui diffère des conceptions traditionnelles basées sur les GPU. Contrairement aux unités de traitement graphique, qui utilisent un pipeline fixe de cœurs parallèles, la RDU peut être reconfigurée à l'exécution pour correspondre au graphe de flux de données d'un modèle d'IA spécifique. Cette reconfiguration vise à améliorer l'efficacité du mouvement des données et du calcul, qui sont souvent des goulots d'étranglement dans l'apprentissage automatique à grande échelle.
La pile logicielle de SambaNova, y compris le compilateur et l'environnement d'exécution SambaFlow, mappe les opérations des réseaux neuronaux sur la structure reconfigurable de la RDU. Les systèmes de l'entreprise prennent en charge les réseaux neuronaux et les modèles courants, y compris les architectures basées sur transformers utilisées dans les grands modèles de langage.
La plateforme matérielle est destinée à la fois à l'entraînement et à l'inférence de modèles d'apprentissage profond, y compris les applications d'IA générative telles que la génération de texte et la synthèse d'images. SambaNova propose sa technologie via deux modèles principaux : SambaNova Suite, un service cloud, et des systèmes sur site déployés dans des centres de données.
Processeur SN40L
Le SN40L, introduit en 2023, est le dernier processeur RDU de SambaNova. Il est conçu pour gérer les exigences gourmandes en mémoire des grands modèles de langage, comme la capacité de traiter de longues fenêtres de contexte. Le SN40L intègre une mémoire à large bande passante et une architecture de flux de données reconfigurable qui peut être programmée pour différentes architectures de modèles.
Le processeur cible à la fois les charges de travail d'entraînement et d'inférence, avec un accent particulier sur l'efficacité de l'inférence pour les applications d'IA générative. SambaNova affirme que le SN40L offre des avantages en termes de capacité mémoire et de densité de calcul par rapport aux accélérateurs alternatifs, bien que les mesures de performance spécifiques soient généralement évaluées au cas par cas.
Déploiements et partenariats
Les plateformes matérielles informatiques de SambaNova ont été utilisées dans des laboratoires de recherche publics et des complexes de supercalcul pour tester des modèles d'accélération alternatifs pour les calculs scientifiques. Le laboratoire national d'Argonne du département de l'Énergie des États-Unis a intégré le cadre informatique de SambaNova dans son banc d'essai spécialisé en IA à l'installation de calcul de leadership d'Argonne (ALCF). Ce déploiement permet aux chercheurs d'évaluer l'architecture RDU pour les charges de travail d'IA scientifiques, y compris la modélisation climatique et la science des matériaux.
Au Japon, le centre de calcul scientifique Riken (R-CCS) a déployé des systèmes SambaNova pour fonctionner aux côtés du supercalculateur Fugaku. Cette intégration a exploré l'utilisation d'accélérateurs de flux de données reconfigurables pour les charges de travail de calcul haute performance, complétant l'architecture de processeur basée sur ARM de Fugaku.
La technologie de SambaNova est également utilisée dans des projets d'inférence d'IA plus récents. Vector Core Compute, un fournisseur de services cloud, utilise le matériel SambaNova pour l'inférence d'IA. OVHcloud, une entreprise cloud européenne, a déployé des systèmes SambaNova pour alimenter sa plateforme AI Endpoints.
Applications et cas d'utilisation
Les accélérateurs de SambaNova sont utilisés dans diverses applications d'IA, en particulier dans les environnements d'entreprise où des modèles d'IA générative sont déployés pour des tâches telles que la génération de texte, la complétion de code et l'analyse de documents. La plateforme cloud de l'entreprise, SambaNova Suite, fournit des API gérées et des capacités de réglage fin pour les organisations qui nécessitent des grands modèles de langage personnalisés.
Les institutions de recherche ont adopté le matériel SambaNova pour le calcul scientifique. Le laboratoire national d'Argonne du département de l'Énergie des États-Unis a intégré le cadre informatique de SambaNova dans son banc d'essai spécialisé en IA à l'installation de calcul de leadership d'Argonne (ALCF). Ce banc d'essai permet aux chercheurs d'évaluer des architectures d'accélération alternatives pour les simulations scientifiques pilotées par l'IA.
Au Japon, le centre de calcul scientifique Riken (R-CCS) a déployé des systèmes SambaNova pour fonctionner aux côtés du supercalculateur Fugaku, l'un des supercalculateurs les plus rapides au monde. Cette configuration a été conçue pour explorer des flux de travail hybrides combinant le calcul haute performance traditionnel avec l'accélération de l'IA.
Offres cloud et entreprise
SambaNova fournit une gamme de produits et de services, y compris SambaNova Suite, qui offre une plateforme par abonnement pour le développement et le déploiement de modèles d'IA. La suite comprend l'accès aux RDU via le cloud, ainsi que des outils pour le réglage fin et l'exécution de grands modèles de langage.
L'entreprise vend également des systèmes intégrés, tels que SambaNova DataScale, pour les déploiements sur site. Ces systèmes sont utilisés par des entreprises et des institutions de recherche qui nécessitent une résidence des données ou des ressources de calcul dédiées.
En 2024, SambaNova a introduit le modèle Samba-1, un grand modèle de langage open-source avec une architecture de mélange d'experts de mille milliards de paramètres. Le modèle a été publié pour démontrer les capacités du matériel SN40L et pour fournir une alternative compétitive aux modèles de OpenAI et Anthropic. Cependant, les détails de cette publication sont susceptibles de changer.
Position sur le marché et concurrence
SambaNova est en concurrence sur le marché du matériel d'IA avec des entreprises proposant des architectures d'accélérateurs alternatives. Cerebras produit des puces à l'échelle d'une plaquette avec une mémoire embarquée massive, tandis que Groq se concentre sur une conception de processeur de flux tensoriel optimisée pour l'inférence. D'autres concurrents incluent des entreprises de semi-conducteurs établies telles que AMD, Intel et NVIDIA (non fourni), ainsi que des fournisseurs cloud avec des puces personnalisées comme AWS Trainium et les TPU de Google.
L'approche de flux de données reconfigurable adoptée par SambaNova est distincte des conceptions à fonction fixe des GPU et de nombreux ASIC d'IA. Cela permet potentiellement une plus grande flexibilité pour s'adapter à de nouvelles architectures de modèles, bien que cela nécessite également une pile logicielle mature pour réaliser cet avantage.
Collaborations de recherche
La technologie de SambaNova a été déployée dans des laboratoires de recherche publics. Le laboratoire national d'Argonne, qui fait partie du département de l'Énergie des États-Unis, utilise des systèmes SambaNova dans son banc d'essai d'IA à l'installation de calcul de leadership d'Argonne. Les chercheurs y utilisent les systèmes pour des projets en science des matériaux, modélisation climatique et physique des hautes énergies.
Au Japon, le centre de calcul scientifique Riken (R-CCS) a déployé des systèmes SambaNova pour fonctionner aux côtés du supercalculateur Fugaku. Cette collaboration a exploré comment les architectures de flux de données reconfigurables pourraient compléter le supercalcul traditionnel pour les charges de travail intensives en IA.
Financement et croissance
SambaNova a reçu un financement substantiel en capital-risque. Parmi les investisseurs notables figurent Oracle et Intel Capital (non confirmé, mais probable), ainsi que des sociétés telles que BlackRock et GV (anciennement Google Ventures). Le milliard de dollars levé par l'entreprise entre 2018 et 2021 l'a placée parmi les startups d'IA les mieux financées de cette période.
En 2023, SambaNova a annoncé des partenariats avec Alibaba Cloud et AWS (détails spécifiques non fournis) pour rendre sa technologie plus accessible. Cependant, l'entreprise a également été confrontée à des défis typiques du marché de l'accélération matérielle, notamment la concurrence d'acteurs établis bien dotés en ressources et la nécessité de démontrer une fiabilité à long terme.
Orientations futures
SambaNova continue de développer son architecture RDU et sa pile logicielle, en se concentrant sur l'amélioration de l'efficacité de l'inférence pour les grands modèles de langage dans les déploiements d'entreprise. L'entreprise s'est positionnée comme une alternative à l'infrastructure basée sur les GPU, en mettant l'accent sur un coût total de possession plus faible pour les charges de travail d'IA, en particulier dans les centres de données où l'alimentation et le refroidissement sont des contraintes.
En 2025, SambaNova n'avait pas divulgué de plans pour son matériel de prochaine génération au-delà du SN40L. Cependant, l'inclusion de l'entreprise dans des listes de l'industrie telles que le Forbes AI 50 en 2026 suggère une pertinence continue sur le marché du matériel d'IA.