SambaNova Systems, Inc. ist ein amerikanisches Unternehmen für künstliche Intelligenz (KI) und Halbleiterhardware, das Hardware-Beschleuniger namens Reconfigurable Dataflow Units (RDUs) entwirft und herstellt, die für Deep-Learning-Modelle und generative KI-Anwendungen angepasst sind. Das Unternehmen konzentriert sich darauf, sowohl cloudbasierte als auch lokale Computersysteme für KI-Inferenz und Modellbereitstellung bereitzustellen, mit dem Ziel, die Datenbewegung und Recheneffizienz für KI-Workloads zu verbessern.
SambaNova wurde im November 2017 gegründet und hat sich zu einem bedeutenden Akteur im Bereich der KI-Hardware entwickelt, hat beträchtliche Finanzmittel eingeworben und seine Technologie in Forschungslabors und kommerziellen Cloud-Plattformen eingesetzt. Seine Architektur, die auf rekonfigurierbarem Dataflow basiert, unterscheidet sich von traditionellen GPU-basierten Ansätzen und bietet eine Alternative für Organisationen, die große KI-Modelle ausführen möchten.
Geschichte
SambaNova wurde im November 2017 von Kunle Olukotun, Christopher Ré und Rodrigo Liang mitbegründet. Die technische Grundlage des Unternehmens stammte aus der Forschung an Mikroprozessor-Arrays für maschinelle Lernsysteme, die von der Defense Advanced Research Projects Agency (DARPA) finanziert wurde. Die Gründer brachten Fachwissen aus Wissenschaft und Industrie mit, wobei Olukotun Professor am Stanford-Universität und Ré Professor an derselben Einrichtung war, während Liang über Industrieerfahrung verfügte.
Zwischen 2018 und 2021 sammelte SambaNova etwa 1,1 Milliarden US-Dollar ein und erreichte bis April 2021 eine Bewertung von 5,1 Milliarden US-Dollar. Diese Finanzierung unterstützte die Entwicklung seiner Hardware- und Software-Stack. In den frühen 2020er Jahren startete das Unternehmen cloudbasierte KI-Dienste und Inferenzplattformen und erweiterte sein Angebot über den Hardwareverkauf hinaus.
Im Jahr 2023 führte SambaNova die SN40L Reconfigurable Dataflow Unit (RDU) ein, einen Prozessor, der für KI-Modelle und Inferenz-Workloads entwickelt wurde. Dieser Chip stellte einen bedeutenden Schritt in der Technologie-Roadmap des Unternehmens dar und zielte auf die wachsende Nachfrage nach generativer KI-Inferenz ab.
Im Jahr 2024 listete Time die SambaNova Suite auf seiner jährlichen Best Inventions-Liste und würdigte damit die Softwareplattform des Unternehmens. Im Jahr 2026 wurde es in die Forbes AI 50 aufgenommen, was seine anhaltende Relevanz in der KI-Branche hervorhebt.
Technologie
SambaNova entwickelt KI-Computersysteme auf Basis einer rekonfigurierbaren Dataflow-Architektur, die für maschinelles Lernen und generative KI-Anwendungen gedacht ist. Im Gegensatz zu traditionellen Prozessoren, die Anweisungen sequenziell ausführen, ist die RDU darauf ausgelegt, ihre Datenpfade dynamisch zu konfigurieren und den Datenfluss für spezifische KI-Workloads zu optimieren. Dieser Ansatz zielt darauf ab, den Overhead der Datenbewegung zu reduzieren, der oft ein Engpass bei KI-Berechnungen ist.
Die Hardwareplattform ist um die Reconfigurable Dataflow Unit (RDU) aufgebaut, eine Prozessorarchitektur, die darauf abzielt, die Datenbewegung und Berechnung für KI-Workloads zu verbessern. Die RDU kann programmiert werden, um verschiedene neuronale Netzwerk-Modelle zu unterstützen, einschließlich großer Sprachmodelle und anderer Deep-Learning-Architekturen.
Das Unternehmen bietet Cloud- und On-Premises-Systeme an, die für KI-Inferenz und Modellbereitstellung verwendet werden. Seine Software-Stack, SambaNova Suite, bietet Werkzeuge für Modelltraining, Feinabstimmung und Inferenz, um die Bereitstellung von KI-Anwendungen zu vereinfachen.
Forschung und Supercomputing
SambaNova-Computing-Hardwareplattformen wurden in öffentlichen Forschungslabors und Supercomputing-Komplexen eingesetzt, um alternative Beschleunigungsmodelle für wissenschaftliche Berechnungen zu testen. Das Argonne National Laboratory des US-Energieministeriums integrierte das SambaNova-Computing-Framework in seinen spezialisierten KI-Teststand, der sich in der Argonne Leadership Computing Facility (ALCF) befindet. Diese Integration ermöglichte es Forschern, die Fähigkeiten der RDU für wissenschaftliche Workloads zu erkunden.
In Japan setzte das Riken Center for Computational Science (R-CCS) SambaNova-Systeme ein, um neben dem Fugaku-Supercomputer zu arbeiten. Diese Bereitstellung zielte darauf ab, die Leistung der RDU in einer Hochleistungsrechenumgebung zu bewerten und möglicherweise traditionelle CPU- und GPU-Ressourcen zu ergänzen.
Diese Kooperationen zeigen den Fokus von SambaNova auf die Forschungsgemeinschaft und bieten eine Alternative zu Mainstream-Beschleunigern für KI-gesteuerte wissenschaftliche Entdeckungen.
Kommerzielle Bereitstellungen
Die Technologie von SambaNova wird auch in neueren KI-Inferenzprojekten eingesetzt, darunter Vector Core Compute und OVHcloud, um deren AI Endpoints-Plattform zu betreiben. Diese Partnerschaften ermöglichen es Cloud-Anbietern, ihren Kunden Inferenzdienste auf Basis von SambaNova anzubieten und so die Reichweite der RDU-Architektur zu erweitern.
Die kommerzielle Strategie des Unternehmens umfasst sowohl direkte Verkäufe an Unternehmen als auch Partnerschaften mit Cloud-Dienstanbietern, was eine breitere Akzeptanz seiner Hardware ermöglicht, ohne dass Kunden in lokale Infrastruktur investieren müssen.
Finanzierung und Wachstum
SambaNova hat beträchtliche Investitionen von Risikokapitalfirmen und strategischen Investoren angezogen. Die zwischen 2018 und 2021 eingeworbenen Mittel in Höhe von insgesamt etwa 1,1 Milliarden US-Dollar unterstützten die Forschungs- und Entwicklungsbemühungen des Unternehmens sowie die Expansion seiner Cloud-Dienste. Die Bewertung von 5,1 Milliarden US-Dollar ab April 2021 positionierte SambaNova unter den wertvollsten KI-Hardware-Startups.
Das Wachstum des Unternehmens wurde durch die zunehmende Nachfrage nach KI-Inferenz angetrieben, insbesondere nach großen Sprachmodellen und anderen generativen KI-Anwendungen. Da Organisationen nach effizienten Möglichkeiten suchen, diese Modelle auszuführen, bietet die rekonfigurierbare Architektur von SambaNova einen potenziellen Vorteil in Bezug auf Leistung und Energieeffizienz.
Wettbewerbsumfeld
SambaNova operiert in einem wettbewerbsintensiven Markt, der etablierte Akteure wie NVIDIA und AMD sowie andere Startups wie Groq und Graphcore umfasst. Während die GPUs von NVIDIA den KI-Trainingsmarkt dominieren, differenziert sich SambaNova durch den Fokus auf Inferenz und seine rekonfigurierbare Dataflow-Architektur, die auf spezifische Modelle zugeschnitten werden kann.
Der Ansatz des Unternehmens wird oft mit dem von Groq verglichen, das ebenfalls KI-Beschleuniger mit Fokus auf Inferenz entwickelt. Die RDU von SambaNova ist jedoch flexibler und ermöglicht eine Neuprogrammierung zur Unterstützung verschiedener Modellarchitekturen, während der Chip von Groq spezialisierter ist.
Zukünftige Richtungen
In Zukunft strebt SambaNova an, seine RDU-Architektur und Software-Stack weiter zu verbessern, um mit den sich entwickelnden Anforderungen von KI-Modellen Schritt zu halten. Das Unternehmen wird wahrscheinlich seine Cloud-Angebote erweitern und zusätzliche Partnerschaften mit Forschungseinrichtungen und Cloud-Anbietern eingehen.
Stand 2024 hat SambaNova keine spezifischen Pläne für zukünftige Chip-Generationen öffentlich bekannt gegeben, aber die Anerkennung von Time und Forbes deutet darauf hin, dass seine Produkte an Zugkraft gewinnen. Die Fähigkeit des Unternehmens, in der sich schnell verändernden KI-Hardwarelandschaft zu innovieren, wird entscheidend für seinen langfristigen Erfolg sein.