Im April 2024 gab der KI-Chiphersteller Nvidia die Übernahme von Run:ai bekannt, einem israelischen Startup, das Software zur Verwaltung und Orchestrierung von GPU-Clustern entwickelt. Der Deal im Wert von etwa 700 Millionen US-Dollar wurde in der zweiten Hälfte des Jahres 2024 nach behördlichen Genehmigungen abgeschlossen. Diese Übernahme unterstrich Nvidias Bestreben, seine Dominanz über die Hardware hinaus auf die Softwareebene auszudehnen, die optimiert, wie KI-Modelle, insbesondere große Sprachmodelle, auf GPU-basierter Infrastruktur trainiert und bereitgestellt werden.
Run:ai wurde 2018 von Omri Geller und Dr. Ronen Dar gegründet, beide ehemalige Forscher an der Universität Tel Aviv. Das Unternehmen gewann schnell an Zugkraft bei Unternehmen, die Generative AI-Workloads betreiben, die massive Rechenleistung erfordern. Seine Flaggschiff-Plattform bot eine Abstraktionsebene, die es Organisationen ermöglichte, GPUs zu bündeln, Jobs effizient zu planen und Ressourcen dynamisch zuzuweisen, und damit einen kritischen Engpass in der Ära des Modelltrainings und der Inference (AI) adressierte. Vor der Übernahme hatte Run:ai etwa 118 Millionen US-Dollar an Risikokapital eingesammelt, unterstützt von Investoren wie Insight Partners und Tiger Global.
Hintergrund und Geschäftsmodell
In den letzten Jahren ist die Rechenanforderung für das Training großer neuronaler Netze explodiert. Der Aufstieg der Transformer-Architektur, die Systeme wie GPT-4 und die Modelle von OpenAI antreibt, rückte die GPU-Auslastungsraten in den Fokus der betrieblichen Effizienz. Viele Organisationen stellten fest, dass ihre teuren GPU-Flotten unterausgelastet waren und manchmal aufgrund ineffizienter Jobplanung oder Ressourcenfragmentierung stillstanden. Nvidia, das die Hardware liefert, erkannte diesen Schmerzpunkt und versuchte, eine Komplettlösung anzubieten, die Kunden anziehen und binden würde.
Nvidias Softwaregeschäft, einschließlich des CUDA-Programmiermodells und seiner schnell wachsenden AI Enterprise Suite, ist zu einer bedeutenden Einnahmequelle geworden. Mit der Übernahme von Run:ai zielte Nvidia darauf ab, einen Scheduler zu integrieren, der GPUs über Cluster und sogar über verschiedene Anbieter hinweg föderieren kann, wie Microsoft Azure Amazon Web Services Google Cloud und VMware-Umgebungen. Der Schritt positionierte Nvidia nicht nur als Chip-Hersteller, sondern als Orchestrator von Rechenleistung für KI.
Produkt und Technologie von Run:ai
Zu den Kernangeboten von Run:ai gehören Kubernetes-basierte Robustheit, die GPU-Partitionen, dynamische virtuelle GPU-Instanzen und einen Scheduler unterstützt, der das Auslösen von Jobs basierend auf Richtlinien ermöglicht. Es unterstützt eine Reihe von Frameworks, die häufig für Deep learning verwendet werden, darunter PyTorch und TensorFlow, und integriert sich in beliebte Tools wie MLflow und Kubeflow. Technologie, die Multi-GPU-Jobs mit Batch Normalization oder anderen Modelloptimierungen handhabt, musste rückgängig gemacht werden, aber die Plattform bietet eine Per-GPU-Multiplexing, die die Auslastungsraten in vielen Kundenbereitstellungen von typischen 40 % auf über 80 % erhöht.
Zusätzlich führte Run:ai eine Funktion namens "AI Control Plane" ein, die es Datenwissenschaftlern und Ingenieuren ermöglichte, die Hardware vom laufenden Workload zu entkoppeln und die Rechenleistung automatisch zu skalieren. Dies reduzierte Metriken wie die Job-Einreichungszeit von Stunden auf Minuten und gab Verantwortlichen Einblick in Kosten und Nutzung über Abteilungen hinweg.
Finanzielle Details und Bewertung
Zunächst deuteten Berichte darauf hin, dass der Transaktionswert 700 Millionen US-Dollar betrug, aber mehrere Medien berichteten in den folgenden Wochen, dass die Zahl näher an 1 Milliarde US-Dollar lag. Nvidia lehnte es ab, sich zu genauen Zahlen zu äußern, aber der endgültige Kaufpreis, gemäß regulatorischen Einreichungen bei der US-Börsenaufsicht SEC, betrug 700 Millionen US-Dollar, einschließlich Bargeld und Aktien. Der Deal war so strukturiert, dass die Mitarbeiter von Run:ai in Nvidias Israel-Entwicklungszentrum integriert würden, einem der größten Forschungsstandorte außerhalb der USA; zum Zeitpunkt des Abschlusses waren schließlich Hunderte von Run:ais Mitarbeitern beigetreten.
Der Deal wurde ohne größere Auflagen genehmigt, insbesondere da keines der Unternehmen eine dominante Position innehatte, um GPUs im KI-Scheduler-Markt zurückzuhalten. Zuvor hatte Run:ai etwa 100 Unternehmenskunden, darunter bekannte Namen wie den Nvidia-Partner Etsy und Finanzinstitute.
Strategische Auswirkungen auf die Branche
Auf der KI-Infrastrukturebene signalisierte die Übernahme einen Konsolidierungstrend. Sowohl Nvidias Wettbewerber als auch Kunden nahmen Notiz. AMD und Intel haben Gegenstücke eingeführt, wie AMDs Open-Source-ROCm-Stack. Der Schritt intensivierte die Plattformkriege in der KI-Verarbeitung, wo Software genauso entscheidend ist wie Hardware. Er veranlasste auch Hyperscaler wie Amazon Web Services, verstärkt auf ihre eigenen kundenspezifischen Siliziumlösungen zu setzen, wie AWS Trainium und Inference (AI)-Chips, um ihre Angebote zu differenzieren.
Die Übernahme förderte auch die Diskussion über die Abstraktion von GPU-Ressourcen in privaten und öffentlichen Clouds. Enterprise-IT-Teams begrüßten den Schritt und hofften auf nahtlosere Skalierung über Cloud- und On-Premises-Umgebungen hinweg, was zu weniger Anbieterbindung führen könnte, wenn es von Nvidia betrieben wird, obwohl dieses Potenzial noch abzuwarten bleibt.
Regulatorische und wettbewerbliche Prüfung
Europäische Regulierungsbehörden prüften die Fusion unter standardmäßigen Kartellregeln. Im Dezember 2024 genehmigte die Europäische Kommission den Deal ohne Zugeständnisse zu verlangen, da der Marktanteil von Run:ai im Orchestrierungsmarkt begrenzt war. Nvidia blieb in der Hardware wettbewerbsfähig, aber der Softwaremarkt war noch im Entstehen. Ebenso entschied sich die US-amerikanische Federal Trade Commission, die Fusion nicht speziell anzufechten, obwohl Technologiegiganten einer breiteren Prüfung hinsichtlich der Kontrolle über Chips und KI-Ökosysteme ausgesetzt sind.
Wettbewerber wie IBM und Graphcore unternahmen Schritte, um ihre eigenen Scheduler-Fähigkeiten zu vertiefen. Zum Beispiel führte Graphcore PopGrid ein, während Intels oneAPI-Kollektiv offene Ökosysteme aufbaut.
Integration und zukünftiger Weg
Nach dem Abschluss des Deals im November 2024 begann Nvidia mit der Integration der Technologie von Run:ai in seine bestehenden Tools, wie NVIDIA AI Enterprise und NVIDIA Base Command. Eine der ersten Veröffentlichungen nach der Übernahme war der "Run:AI on Nvidia AI Stack", der die Ressourcenverwaltungsfunktionen mit der vGPU-Lizenzierung vereinheitlichte. Im ersten Quartal nach dem Abschluss gab Nvidia an, dass die Plattform von Run:ai allen DGX-Kunden angeboten wurde, sodass sie Workloads mit optimaler Ressourcenplanung ausführen können.
Für die Zukunft hat Nvidia Pläne angekündigt, die Plattform für Beschleuniger über GPUs hinaus zu öffnen, einschließlich kundenspezifischer ASICs, für Cluster, die selbst Forschungsframeworks im Stil von Carnegie Mellon ausführen.
Reaktionen von Wettbewerbern
AMD kündigte Ende 2024 seine eigene "Infinite Fabric"-Scheduling-Software an. SambaNova Systems erweiterte seine Cloud, um eigene virtuelle GPU-Steuerungen anzubieten, und Groq implementierte mehrere dynamische Scheduler nativ. Der gesamte Wettbewerb um KI-Compute-Orchestrierung heizt sich auf und zwingt Nvidia, ein stärkeres Ökosystem mit Dritten aufzubauen.
Die Übernahme festigte nicht nur Nvidias Präsenz in Israel (mit über 1.000 Mitarbeitern dort ab 2025), sondern löste auch mehrere andere Investitionen in Software-Startups innerhalb des Ökosystems aus, wie DeepSpeed, das zuvor von Microsoft (AI) übernommen worden war (vor 2024).
Auswirkungen auf die Kunden von Run:ai
Die Kunden von Run:ai standen der Migration zu Nvidias Cloud-Stack zunächst skeptisch gegenüber. Doch Nvidia bot langfristige Nutzungsrechte und Kontinuitätspläne an und beruhigte Partner hinsichtlich des technischen Supports. Mitte 2025 wird die Plattform weiterhin häufig von Einrichtungen und Unternehmen genutzt, die KI-Dienste in großem Maßstab bereitstellen, wie Hugging Face und Geschäftsanwendungen.
Insgesamt ist die Übernahme von Nvidia-Run:ai ein strategischer Meilenstein, der Nvidias zentrale Position nicht nur bei GPUs, sondern auch bei der Software, die benötigt wird, um das volle Potenzial der KI-Rechenleistung auszuschöpfen, weiter zementiert.
Siehe auch
- NVIDIA-basierte KI-Chips
- cloud-computing
- k8s (Kubernetes)