SambaNova Systems, Inc. ist ein amerikanisches Unternehmen für künstliche Intelligenz (KI) und Halbleiterhardware, das Hardware-Beschleuniger namens Reconfigurable Dataflow Units (RDUs) entwirft und herstellt, die für Deep-Learning-Modelle und generative KI-Anwendungen angepasst sind. Das Unternehmen entwickelt sowohl Hardware- als auch Softwaresysteme, die darauf abzielen, die Effizienz und Geschwindigkeit von KI-Modelltraining und Inferenz zu verbessern, und bedient Unternehmen und Forschungseinrichtungen.
SambaNova wurde im November 2017 gegründet und entstand aus der Forschung an Mikroprozessor-Arrays für maschinelles Lernen, mit einem Fokus auf rekonfigurierbare Dataflow-Architektur. Das Unternehmen hat erhebliches Risikokapital eingeworben und seine Systeme in Cloud- und On-Premises-Umgebungen eingesetzt, einschließlich Partnerschaften mit großen Rechenzentren. Seine Technologie zielt auf die wachsende Nachfrage nach spezialisierter Infrastruktur für den Betrieb großer KI-Modelle ab.
Geschichte
SambaNova wurde im November 2017 von Kunle Olukotun, Christopher Ré und Rodrigo Liang mitgegründet. Die technische Grundlage des Unternehmens stammte aus der Forschung an Mikroprozessor-Arrays für maschinelle Lernsysteme, die Mittel von der Defense Advanced Research Projects Agency (DARPA) erhielt. Die Gründer brachten Fachwissen aus Wissenschaft und Industrie mit, wobei Olukotun ein Professor der Stanford University ist, der für seine Arbeit im Bereich Parallelrechnen bekannt ist, und Ré einen Hintergrund in maschinellen Lernsystemen hat.
Zwischen 2018 und 2021 sammelte SambaNova etwa 1,1 Milliarden US-Dollar ein und erreichte bis April 2021 eine Bewertung von 5,1 Milliarden US-Dollar. Diese Finanzierung unterstützte die Entwicklung seines Hardware- und Software-Stacks sowie die Expansion in cloudbasierte Dienste. In den frühen 2020er Jahren begann das Unternehmen, cloudbasierte KI-Dienste und Inferenzplattformen anzubieten, die es Kunden ermöglichten, auf seine Beschleuniger zuzugreifen, ohne physische Hardware zu besitzen.
Im Jahr 2023 führte SambaNova die SN40L Reconfigurable Dataflow Unit (RDU) ein, einen Prozessor, der für KI-Modelle und Inferenz-Workloads entwickelt wurde. Dieser Chip stellte einen Generationsschritt in der Hardware-Roadmap des Unternehmens dar und zielte darauf ab, zunehmend komplexe große Sprachmodelle und generative KI-Anwendungen zu bewältigen. Im Jahr 2024 listete Time die SambaNova Suite auf seiner jährlichen Liste der besten Erfindungen, und 2026 wurde das Unternehmen in die Forbes AI 50 aufgenommen, was seinen Einfluss in der KI-Branche anerkennt.
Technologie
SambaNova entwickelt KI-Computersysteme auf Basis einer rekonfigurierbaren Dataflow-Architektur, die für maschinelles Lernen und generative KI-Anwendungen gedacht ist. Im Gegensatz zu traditionellen Prozessoren wie GPUs, die feste Befehlssätze verwenden, ist die RDU so konzipiert, dass sie zur Laufzeit neu konfiguriert werden kann, um den Datenflussmustern spezifischer KI-Modelle zu entsprechen. Dieser Ansatz zielt darauf ab, Datenbewegungsengpässe zu reduzieren und die Recheneffizienz für Workloads wie Deep Learning und neuronale Netze zu verbessern.
Die Hardware-Plattform des Unternehmens basiert auf der RDU, einer Prozessorarchitektur, die darauf abzielt, Datenbewegung und Berechnung für KI-Workloads zu verbessern. SambaNova bietet sowohl Cloud- als auch On-Premises-Systeme an, die für KI-Inferenz und Modellbereitstellung verwendet werden. Sein Software-Stack, einschließlich der SambaFlow-Umgebung, ermöglicht es Entwicklern, Modelle aus Frameworks wie PyTorch und TensorFlow zu kompilieren, um sie auf der RDU auszuführen, und abstrahiert dabei die Komplexität der Low-Level-Programmierung.
Die Systeme von SambaNova positionieren sich als Alternative zu Mainstream-Beschleunigern von Unternehmen wie Nvidia (nicht gelistet) und AMD, mit einem Fokus auf Speicherbandbreite und Rekonfigurierbarkeit. Die SN40L RDU, die 2023 eingeführt wurde, integriert On-Chip-Speicher und Hochbandbreiten-Schnittstellen, um große Modellgrößen und Hochdurchsatz-Inferenz zu unterstützen. Das Unternehmen bietet auch Werkzeuge zur Modelloptimierung an, einschließlich Quantisierung und Pruning, um die Leistung auf seiner Hardware zu maximieren.
Bereitstellungen und Partnerschaften
Die Computerhardware-Plattformen von SambaNova wurden in öffentlichen Forschungslabors und Supercomputing-Komplexen eingesetzt, um alternative Beschleunigungsmodelle für wissenschaftliche Berechnungen zu testen. Das Argonne National Laboratory des US-Energieministeriums integrierte das SambaNova-Computing-Framework in sein spezialisiertes KI-Testbett am Argonne Leadership Computing Facility (ALCF). Diese Bereitstellung ermöglichte es Forschern, die Leistung der RDU für wissenschaftliche KI-Workloads wie Klimamodellierung und Materialwissenschaften zu bewerten.
In Japan setzte das Riken Center for Computational Science (R-CCS) SambaNova-Systeme ein, um neben dem Fugaku-Supercomputer, einem der schnellsten Supercomputer der Welt, zu arbeiten. Diese Integration zielte darauf ab, hybride Computing-Ansätze zu erkunden, die traditionelles Hochleistungsrechnen mit KI-spezifischen Beschleunigern kombinieren. Die Technologie von SambaNova wird auch in neueren KI-Inferenzprojekten verwendet, einschließlich Vector Core Compute und OVHcloud, um deren KI-Endpunkte-Plattform zu betreiben und Unternehmen cloudbasierten Zugang zu SambaNova-Hardware zu bieten.
Diese Bereitstellungen unterstreichen die Strategie von SambaNova, sowohl Forschungseinrichtungen als auch kommerzielle Cloud-Anbieter anzusprechen. Durch Partnerschaften mit etablierten Rechenzentren gewinnt das Unternehmen Glaubwürdigkeit und reale Validierung für seine Architektur, während Cloud-Partnerschaften seine Reichweite auf kleinere Organisationen ausdehnen, die verwaltete KI-Dienste bevorzugen.
Marktposition und Wettbewerb
SambaNova operiert im wettbewerbsintensiven KI-Hardwaremarkt und steht Rivalen wie Cerebras Systems und Groq gegenüber, die ebenfalls spezialisierte Beschleuniger für KI-Workloads entwickeln. Im Gegensatz zu diesen Wettbewerbern betont SambaNova seine rekonfigurierbare Dataflow-Architektur als Unterscheidungsmerkmal und beansprucht Flexibilität über verschiedene Modelltypen und -größen hinweg. Die Bewertung des Unternehmens von 5,1 Milliarden US-Dollar ab April 2021 platzierte es unter den wertvollsten KI-Hardware-Startups, obwohl es keine jüngsten Finanzierungsrunden offengelegt hat.
Der Fokus des Unternehmens auf Inferenz, nicht nur auf Training, steht im Einklang mit der wachsenden Bereitstellung von KI-Anwendungen in Produktionsumgebungen. Da große Sprachmodelle immer weiter verbreitet werden, wird erwartet, dass die Nachfrage nach effizienter Inferenzhardware steigt. Die Cloud-Dienste von SambaNova, wie die SambaNova Suite, zielen darauf ab, diesen Markt zu erobern, indem sie eine Full-Stack-Lösung von Hardware bis Software mit einem Pay-as-you-go-Modell anbieten.
Das Unternehmen steht jedoch vor Herausforderungen durch etablierte Akteure wie Nvidia (nicht gelistet) und Intel, die über tiefe Ressourcen und breite Software-Ökosysteme verfügen. Der Erfolg von SambaNova hängt von seiner Fähigkeit ab, überlegene Leistung und Kosteneffizienz für spezifische KI-Workloads zu demonstrieren sowie eine robuste Entwickler-Community rund um seinen Software-Stack aufzubauen.
Zukünftige Richtungen
In der Zukunft wird SambaNova wahrscheinlich weiterhin an seiner RDU-Architektur iterieren, mit potenziellen Verbesserungen bei Speicherkapazität, Interconnect-Geschwindigkeit und Energieeffizienz. Das Unternehmen könnte auch seine Software-Angebote erweitern, um eine breitere Palette von KI-Frameworks und -Modellen zu unterstützen, einschließlich aufkommender Architekturen wie Transformatoren und Diffusionsmodelle (nicht gelistet). Ab 2026 deutet die Aufnahme von SambaNova in die Forbes AI 50 auf anhaltende Relevanz in der KI-Branche hin, obwohl spezifische Produkt-Roadmaps nicht öffentlich detailliert wurden.
Die Partnerschaften des Unternehmens mit Forschungseinrichtungen und Cloud-Anbietern positionieren es, von Regierungs- und Unternehmensinvestitionen in KI-Infrastruktur zu profitieren. Mit dem zunehmenden Fokus auf generative KI in allen Sektoren könnte die Hardware von SambaNova eine Rolle bei der Ermöglichung kosteneffizienter Inferenz in großem Maßstab spielen. Die sich schnell entwickelnde KI-Hardwarelandschaft bedeutet jedoch, dass das Unternehmen kontinuierlich innovieren muss, um seinen Wettbewerbsvorteil zu erhalten.