SambaNova Systems, Inc. est une entreprise américaine spécialisée dans l'intelligence artificielle (IA) et le matériel semi-conducteur, qui conçoit et fabrique des accélérateurs matériels appelés unités de flux de données reconfigurables (RDU), adaptés aux modèles d'apprentissage profond et aux applications d'IA générative. L'entreprise se concentre sur la fourniture de systèmes informatiques cloud et sur site pour l'inférence IA et le déploiement de modèles, visant à améliorer le mouvement des données et l'efficacité de calcul pour les charges de travail IA.
Fondée en novembre 2017, SambaNova est devenue un acteur important dans le domaine du matériel IA, levant des fonds substantiels et déployant sa technologie dans des laboratoires de recherche et des plateformes cloud commerciales. Son architecture, basée sur un flux de données reconfigurable, la distingue des approches traditionnelles basées sur les GPU, offrant une alternative pour les organisations cherchant à exécuter des modèles IA à grande échelle.
Historique
SambaNova a été cofondée en novembre 2017 par Kunle Olukotun, Christopher Ré et Rodrigo Liang. La base technique de l'entité provient de recherches sur les réseaux de microprocesseurs pour les systèmes d'apprentissage automatique, financées par la Defense Advanced Research Projects Agency (DARPA). Les fondateurs ont apporté une expertise académique et industrielle, Olukotun étant professeur à Stanford University et Ré professeur dans la même institution, tandis que Liang possédait une expérience industrielle.
Entre 2018 et 2021, SambaNova a levé environ 1,1 milliard de dollars, atteignant une valorisation de 5,1 milliards de dollars en avril 2021. Ce financement a soutenu le développement de son matériel et de sa pile logicielle. Au début des années 2020, l'entreprise a lancé des services IA cloud et des plateformes d'inférence, élargissant son offre au-delà de la vente de matériel.
En 2023, SambaNova a introduit le SN40L, une unité de flux de données reconfigurable (RDU), un processeur conçu pour les modèles IA et les charges de travail d'inférence. Cette puce a représenté une étape significative dans la feuille de route technologique de l'entreprise, ciblant la demande croissante pour l'inférence en IA générative.
En 2024, Time a classé SambaNova Suite sur sa liste annuelle des meilleures inventions, reconnaissant la plateforme logicielle de l'entreprise. En 2026, elle a été incluse dans le Forbes AI 50, soulignant sa pertinence continue dans l'industrie de l'IA.
Technologie
SambaNova développe des systèmes informatiques IA basés sur une architecture de flux de données reconfigurable destinée aux applications de machine learning et d'IA générative. Contrairement aux processeurs traditionnels qui exécutent des instructions séquentiellement, le RDU est conçu pour configurer dynamiquement ses chemins de données, optimisant le flux de données pour des charges de travail IA spécifiques. Cette approche vise à réduire la surcharge du mouvement des données, souvent un goulot d'étranglement dans les calculs IA.
La plateforme matérielle est construite autour de l'unité de flux de données reconfigurable (RDU), une architecture de processeur destinée à améliorer le mouvement des données et le calcul pour les charges de travail IA. Le RDU peut être programmé pour prendre en charge divers modèles de réseaux neuronaux, y compris les grands modèles de langage et d'autres architectures de apprentissage profond.
L'entreprise propose des systèmes cloud et sur site utilisés pour l'inférence IA et le déploiement de modèles. Sa pile logicielle, SambaNova Suite, fournit des outils pour l'entraînement, le réglage fin et l'inférence des modèles, visant à simplifier le déploiement des applications IA.
Recherche et Supercalcul
Les plateformes matérielles de SambaNova ont été utilisées dans des laboratoires de recherche publics et des complexes de supercalcul pour tester des modèles d'accélération alternatifs pour les calculs scientifiques. Le laboratoire national d'Argonne du département de l'Énergie des États-Unis a intégré le cadre informatique de SambaNova dans son banc d'essai IA spécialisé situé à l'Argonne Leadership Computing Facility (ALCF). Cette intégration a permis aux chercheurs d'explorer les capacités du RDU pour les charges de travail scientifiques.
Au Japon, le centre de calcul scientifique Riken (R-CCS) a déployé des systèmes SambaNova pour fonctionner aux côtés du supercalculateur Fugaku. Ce déploiement visait à évaluer les performances du RDU dans un environnement de calcul haute performance, complétant potentiellement les ressources CPU et GPU traditionnelles.
Ces collaborations démontrent l'accent mis par SambaNova sur la communauté de recherche, offrant une alternative aux accélérateurs grand public pour la découverte scientifique pilotée par l'IA.
Déploiements commerciaux
La technologie de SambaNova est également utilisée dans des projets d'inférence IA plus récents, notamment Vector Core Compute et OVHcloud pour alimenter leur plateforme AI Endpoints. Ces partenariats permettent aux fournisseurs de cloud d'offrir des services d'inférence basés sur SambaNova à leurs clients, élargissant la portée de l'architecture RDU.
La stratégie commerciale de l'entreprise implique à la fois des ventes directes aux entreprises et des partenariats avec des fournisseurs de services cloud, permettant une adoption plus large de son matériel sans que les clients aient besoin d'investir dans une infrastructure sur site.
Financement et Croissance
SambaNova a attiré des investissements significatifs de la part de sociétés de capital-risque et d'investisseurs stratégiques. Le financement levé entre 2018 et 2021, totalisant environ 1,1 milliard de dollars, a soutenu les efforts de recherche et développement de l'entreprise, ainsi que l'expansion de ses services cloud. La valorisation de 5,1 milliards de dollars en avril 2021 a positionné SambaNova parmi les startups de matériel IA les plus précieuses.
La croissance de l'entreprise a été stimulée par la demande croissante pour l'inférence IA, en particulier pour les grands modèles de langage et d'autres applications d'IA générative. Alors que les organisations cherchent des moyens efficaces d'exécuter ces modèles, l'architecture reconfigurable de SambaNova offre un avantage potentiel en termes de performances et d'efficacité énergétique.
Paysage concurrentiel
SambaNova opère sur un marché concurrentiel qui comprend des acteurs établis comme NVIDIA et AMD, ainsi que d'autres startups telles que Groq et Graphcore. Alors que les GPU de NVIDIA dominent le marché de l'entraînement IA, SambaNova se différencie en se concentrant sur l'inférence et son architecture de flux de données reconfigurable, qui peut être adaptée à des modèles spécifiques.
L'approche de l'entreprise est souvent comparée à celle de Groq, qui développe également des accélérateurs IA axés sur l'inférence. Cependant, le RDU de SambaNova est plus flexible, permettant une reprogrammation pour prendre en charge différentes architectures de modèles, tandis que la puce de Groq est plus spécialisée.
Orientations futures
À l'avenir, SambaNova vise à continuer d'améliorer son architecture RDU et sa pile logicielle pour suivre le rythme des exigences évolutives des modèles d'IA. L'entreprise devrait probablement élargir ses offres cloud et forger des partenariats supplémentaires avec des institutions de recherche et des fournisseurs de cloud.
En 2024, SambaNova n'a pas divulgué publiquement de plans spécifiques pour les futures générations de puces, mais la reconnaissance de Time et Forbes suggère que ses produits gagnent du terrain. La capacité de l'entreprise à innover dans le paysage en évolution rapide du matériel IA sera cruciale pour son succès à long terme.