SambaNova Systems, Inc. ist ein amerikanisches Unternehmen für künstliche Intelligenz (KI) und Halbleiterhardware mit Sitz in Palo Alto, Kalifornien. Das Unternehmen entwirft und fertigt Hardware-Beschleuniger, die als Reconfigurable Dataflow Units (RDUs) bezeichnet werden und für Deep-Learning-Modelle und generative KI-Anwendungen angepasst sind. SambaNova bietet sowohl cloudbasierte als auch lokale Computersysteme an, die darauf ausgelegt sind, das Training und die Inferenz von Large Language Models und anderen KI-Workloads zu beschleunigen.
Gegründet im November 2017, hat SambaNova erhebliches Risikokapital eingeworben und erreichte bis April 2021 eine Bewertung von 5,1 Milliarden US-Dollar. Das Unternehmen stellte 2023 seinen SN40L-RDU-Prozessor vor, und seine Technologie wurde in Forschungseinrichtungen und kommerziellen Cloud-Plattformen eingesetzt. SambaNova konkurriert im KI-Beschleunigermarkt mit Unternehmen wie Cerebras, Groq und Nvidia (nicht angegeben) und konzentriert sich auf eine rekonfigurierbare Architektur, die sich von fest verdrahteten Designs unterscheidet.
Geschichte
SambaNova wurde im November 2017 von Kunle Olukotun, Christopher Ré und Rodrigo Liang mitgegründet. Olukotun, Professor für Elektrotechnik und Informatik am Stanford University, hatte zuvor Pionierarbeit bei Mehrkernprozessoren und transaktionalem Speicher geleistet. Ré, ebenfalls Professor in Stanford, spezialisierte sich auf maschinelle Lernsysteme und Datenverwaltung. Liang, der als CEO des Unternehmens fungierte, hatte zuvor Erfahrung in der Halbleitertechnik gesammelt.
Die technische Grundlage von SambaNova stammte aus der Forschung an Mikroprozessor-Arrays für maschinelle Lernsysteme, die von der Defense Advanced Research Projects Agency (DARPA) finanziert wurde. Diese Forschung floss in die rekonfigurierbare Datenflussarchitektur ein, die zur Grundlage der Produkte des Unternehmens wurde.
Zwischen 2018 und 2021 sammelte SambaNova in mehreren Finanzierungsrunden rund 1,1 Milliarden US-Dollar ein. Das Unternehmen erreichte bis April 2021 eine Bewertung von 5,1 Milliarden US-Dollar, mit Investitionen von Risikokapitalfirmen und strategischen Partnern. Dieses Kapital unterstützte die Entwicklung seines Hardware- und Software-Stacks sowie den Ausbau seiner Cloud-Dienste.
In den frühen 2020er Jahren startete SambaNova cloudbasierte KI-Dienste und Inferenzplattformen, die es Kunden ermöglichten, auf seine Beschleuniger zuzugreifen, ohne Hardware direkt zu kaufen. 2023 führte das Unternehmen die SN40L Reconfigurable Dataflow Unit (RDU) ein, einen Prozessor, der für KI-Modelltraining und Inferenz-Workloads entwickelt wurde.
2024 listete das Time Magazine die SambaNova Suite auf seiner jährlichen Liste der besten Erfindungen. 2026 wurde das Unternehmen in die Forbes AI 50 aufgenommen, eine Liste, die führende private KI-Unternehmen anerkennt.
Technologie
Der Kern der SambaNova-Technologie ist die Reconfigurable Dataflow Unit (RDU), eine Prozessorarchitektur, die sich von traditionellen GPU-basierten Designs unterscheidet. Im Gegensatz zu Grafikprozessoren, die eine feste Pipeline paralleler Kerne verwenden, kann die RDU zur Laufzeit neu konfiguriert werden, um dem Datenflussgraphen eines bestimmten KI-Modells zu entsprechen. Diese Rekonfiguration zielt darauf ab, die Datenbewegung und Recheneffizienz zu verbessern, die oft Engpässe beim maschinellen Lernen in großem Maßstab darstellen.
Der Software-Stack von SambaNova, einschließlich des SambaFlow-Compilers und der Laufzeitumgebung, bildet neuronale Netzwerkoperationen auf das rekonfigurierbare Geflecht der RDU ab. Die Systeme des Unternehmens unterstützen gängige neuronale Netzwerk-Frameworks und Modelle, einschließlich Transformer-basierter Architekturen, die in großen Sprachmodellen verwendet werden.
Die Hardware-Plattform ist sowohl für das Training als auch für die Inferenz von Deep-Learning-Modellen gedacht, einschließlich generativer KI-Anwendungen wie Textgenerierung und Bildsynthese. SambaNova bietet seine Technologie über zwei primäre Modelle an: SambaNova Suite, einen cloudbasierten Dienst, und lokale Systeme, die in Rechenzentren bereitgestellt werden.
SN40L-Prozessor
Der 2023 eingeführte SN40L ist der neueste RDU-Prozessor von SambaNova. Er ist darauf ausgelegt, die speicherintensiven Anforderungen großer Sprachmodelle zu bewältigen, wie die Fähigkeit, lange Kontextfenster zu verarbeiten. Der SN40L integriert Hochbandbreitenspeicher und eine rekonfigurierbare Datenflussarchitektur, die für verschiedene Modellarchitekturen programmiert werden kann.
Der Prozessor zielt sowohl auf Trainings- als auch auf Inferenz-Workloads ab, mit besonderem Schwerpunkt auf Inferenzeffizienz für generative KI-Anwendungen. SambaNova behauptet, dass der SN40L Vorteile bei Speicherkapazität und Rechendichte im Vergleich zu alternativen Beschleunigern bietet, obwohl spezifische Leistungsmetriken typischerweise von Fall zu Fall benchmarkt werden.
Bereitstellungen und Partnerschaften
SambaNova-Computing-Hardwareplattformen wurden in öffentlichen Forschungslabors und Supercomputing-Komplexen eingesetzt, um alternative Beschleunigungsmodelle für wissenschaftliche Berechnungen zu testen. Das Argonne National Laboratory des US-Energieministeriums integrierte das SambaNova-Computing-Framework in sein spezialisiertes KI-Testbett am Argonne Leadership Computing Facility (ALCF). Diese Bereitstellung ermöglicht es Forschern, die RDU-Architektur für wissenschaftliche KI-Workloads zu bewerten, einschließlich Klimamodellierung und Materialwissenschaften.
In Japan setzte das Riken Center for Computational Science (R-CCS) SambaNova-Systeme ein, um neben dem Fugaku-Supercomputer zu arbeiten. Diese Integration untersuchte die Nutzung rekonfigurierbarer Datenflussbeschleuniger für Hochleistungsrechen-Workloads und ergänzte die ARM-basierte Prozessorarchitektur von Fugaku.
Die Technologie von SambaNova wird auch in neueren KI-Inferenzprojekten verwendet. Vector Core Compute, ein Cloud-Dienstanbieter, nutzt SambaNova-Hardware für KI-Inferenz. OVHcloud, ein europäisches Cloud-Unternehmen, hat SambaNova-Systeme bereitgestellt, um seine KI-Endpunkte-Plattform zu betreiben.
Anwendungen und Nutzungsfälle
Die Beschleuniger von SambaNova werden in einer Vielzahl von KI-Anwendungen eingesetzt, insbesondere in Unternehmensumgebungen, in denen generative KI-Modelle für Aufgaben wie Textgenerierung, Codevervollständigung und Dokumentenanalyse bereitgestellt werden. Die Cloud-Plattform des Unternehmens, SambaNova Suite, bietet verwaltete APIs und Feinabstimmungsfunktionen für Organisationen, die maßgeschneiderte große Sprachmodelle benötigen.
Forschungseinrichtungen haben SambaNova-Hardware für wissenschaftliches Rechnen übernommen. Das Argonne National Laboratory des US-Energieministeriums integrierte das SambaNova-Computing-Framework in sein spezialisiertes KI-Testbett am Argonne Leadership Computing Facility (ALCF). Dieses Testbett ermöglicht es Forschern, alternative Beschleunigungsarchitekturen für KI-gesteuerte wissenschaftliche Simulationen zu bewerten.
In Japan setzte das Riken Center for Computational Science (R-CCS) SambaNova-Systeme ein, um neben dem Fugaku-Supercomputer zu arbeiten, einem der schnellsten Supercomputer der Welt. Dieses Setup wurde entwickelt, um hybride Workflows zu erforschen, die traditionelles HPC mit KI-Beschleunigung kombinieren.
Cloud- und Unternehmensangebote
SambaNova bietet eine Reihe von Produkten und Dienstleistungen an, einschließlich der SambaNova Suite, die eine abonnementbasierte Plattform für die Entwicklung und Bereitstellung von KI-Modellen bietet. Die Suite umfasst Zugang zu RDUs über die Cloud sowie Werkzeuge zur Feinabstimmung und zum Ausführen von Large Language Models.
Das Unternehmen verkauft auch integrierte Systeme, wie die SambaNova DataScale, für lokale Bereitstellungen. Diese Systeme werden von Unternehmen und Forschungseinrichtungen genutzt, die Datenresidenz oder dedizierte Rechenressourcen benötigen.
2024 führte SambaNova das Modell Samba-1 ein, ein Open-Source-Large-Language-Model mit einer Mixture-of-Experts-Architektur mit einer Billion Parametern. Das Modell wurde veröffentlicht, um die Fähigkeiten der SN40L-Hardware zu demonstrieren und eine wettbewerbsfähige Alternative zu Modellen von OpenAI und Anthropic zu bieten. Details zu dieser Veröffentlichung können sich jedoch ändern.
Marktposition und Wettbewerb
SambaNova konkurriert im KI-Hardwaremarkt mit Unternehmen, die alternative Beschleunigerarchitekturen anbieten. Cerebras produziert Wafer-Scale-Chips mit massivem On-Chip-Speicher, während Groq sich auf ein Tensor-Streaming-Prozessordesign konzentriert, das für Inferenz optimiert ist. Weitere Wettbewerber sind etablierte Halbleiterfirmen wie AMD, Intel und Nvidia (nicht angegeben) sowie Cloud-Anbieter mit kundenspezifischem Silizium wie AWS Trainium und Googles TPUs.
Der rekonfigurierbare Datenflussansatz von SambaNova unterscheidet sich von den fest verdrahteten Designs von GPUs und vielen KI-ASICs. Dies ermöglicht potenziell eine größere Flexibilität bei der Anpassung an neue Modellarchitekturen, erfordert jedoch auch einen ausgereiften Software-Stack, um diesen Vorteil zu realisieren.
Forschungskooperationen
Die Technologie von SambaNova wurde in öffentlichen Forschungslabors eingesetzt. Das Argonne National Laboratory, Teil des US-Energieministeriums, verwendet SambaNova-Systeme in seinem KI-Testbett am Argonne Leadership Computing Facility. Forscher dort nutzen die Systeme für Projekte in Materialwissenschaften, Klimamodellierung und Hochenergiephysik.
In Japan setzte das Riken Center for Computational Science (R-CCS) SambaNova-Systeme ein, um neben dem Fugaku-Supercomputer zu arbeiten. Diese Zusammenarbeit untersuchte, wie rekonfigurierbare Datenflussarchitekturen traditionelles Supercomputing für KI-intensive Workloads ergänzen könnten.
Finanzierung und Wachstum
SambaNova hat erhebliches Risikokapital erhalten. Zu den bemerkenswerten Investoren gehören Oracle und Intel Capital (nicht bestätigt, aber wahrscheinlich) sowie Firmen wie BlackRock und GV (ehemals Google Ventures). Die 1,1 Milliarden US-Dollar, die das Unternehmen zwischen 2018 und 2021 einwarb, platzierten es unter den am besten finanzierten KI-Startups dieser Zeit.
2023 kündigte SambaNova Partnerschaften mit Alibaba Cloud und AWS an (spezifische Details nicht angegeben), um seine Technologie zugänglicher zu machen. Das Unternehmen stand jedoch auch vor typischen Herausforderungen des Hardware-Beschleunigermarktes, einschließlich Konkurrenz durch gut ausgestattete etablierte Unternehmen und der Notwendigkeit, langfristige Zuverlässigkeit zu demonstrieren.
Zukunftsaussichten
SambaNova entwickelt seine RDU-Architektur und seinen Software-Stack weiter, mit einem Fokus auf die Verbesserung der Inferenzeffizienz für große Sprachmodelle in Unternehmensbereitstellungen. Das Unternehmen hat sich als Alternative zu GPU-basierter Infrastruktur positioniert und betont niedrigere Gesamtbetriebskosten für KI-Workloads, insbesondere in Rechenzentren, in denen Strom und Kühlung Einschränkungen darstellen.
Stand 2025 hatte SambaNova keine Pläne für seine nächste Hardwaregeneration über den SN40L hinaus bekannt gegeben. Die Aufnahme des Unternehmens in Branchenlisten wie die Forbes AI 50 im Jahr 2026 deutet jedoch auf anhaltende Relevanz im KI-Hardwaremarkt hin.