Safe Superintelligence Inc. (SSI) ist ein israelisch-amerikanisches Unternehmen für künstliche Intelligenz, das sich auf die Entwicklung von Superintelligenz konzentriert, einem computergestützten Agenten, der in der Lage ist, menschliche Intelligenz zu übertreffen, mit einem Schwerpunkt auf Sicherheit. Das Unternehmen wurde im Juni 2024 von den prominenten KI-Persönlichkeiten Ilya Sutskever, Daniel Gross und Daniel Levy gegründet und erhielt im September 2024 eine Finanzierung in Höhe von 1 Milliarde US-Dollar, um seine Rechenressourcen zu erweitern und Top-Talente anzuwerben. SSI arbeitet mit einem kleinen Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt, und zielt darauf ab, kurzfristigen kommerziellen Druck zu vermeiden, um seine langfristige Sicherheitsmission zu verfolgen.
Das Unternehmen entstand aus einer Zeit der Turbulenzen bei OpenAI, wo Mitbegründer Ilya Sutskever eine zentrale Rolle bei der Entwicklung moderner großer Sprachmodelle gespielt hatte. Die Finanzierungsrunde von SSI zog die Aufmerksamkeit großer Risikokapitalgesellschaften auf sich, was sowohl den Ruf der Gründer als auch das wachsende Interesse an der sicheren Entwicklung von künstlicher Intelligenz widerspiegelte. Bis März 2025 war die Bewertung von SSI auf 30 Milliarden US-Dollar gestiegen, trotz nur etwa 20 Mitarbeitern und ohne Umsatz, was das Vertrauen der Investoren in den Ansatz des Unternehmens unterstreicht.
Gründung und Führung
SSI wurde am 19. Juni 2024 gegründet, als Ilya Sutskever das Vorhaben auf der Social-Media-Plattform X ankündigte. Sutskever, der fast ein Jahrzehnt als Chefwissenschaftler bei OpenAI tätig war, verließ diese Organisation am 15. Mai 2024, nach einem Vorstandsstreit, bei dem er für die Entfernung von CEO Sam Altman stimmte, aus Sorge um Kommunikation und Vertrauen. Sutskever und seine Kollegen glaubten, dass OpenAI die Kommerzialisierung über seine ursprünglichen Sicherheitsverpflichtungen stellte.
Sutskever wurde von Daniel Gross, dem ehemaligen Leiter der KI-Bemühungen bei Apple, und Daniel Levy, einem Investor und ehemaligen KI-Forscher bei OpenAI, begleitet. Das Trio positionierte SSI als das, was die Website als das "weltweit erste Straight-Shot-SSI-Labor" bezeichnet, das von "Management-Overhead oder Produktzyklen" und "kurzfristigem kommerziellem Druck" abgeschirmt sein soll. Im Juli 2025 verließ Gross das Unternehmen, um zu Meta Superintelligence Labs zu wechseln, und ließ Sutskever als alleinigen CEO zurück.
Finanzierungsrunde im September 2024
Im September 2024 gab SSI bekannt, 1 Milliarde US-Dollar von einer Gruppe von Risikokapitalgesellschaften eingesammelt zu haben, darunter SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz. Die Finanzierung wurde für den Aufbau von Rechenleistung und die Einstellung führender Forscher auf diesem Gebiet verwendet. Die Runde bewertete das Unternehmen mit 5 Milliarden US-Dollar, eine beträchtliche Summe für ein Startup ohne Produkt und mit kleiner Belegschaft.
Die Investition war angesichts der wettbewerbsintensiven Landschaft der generativen KI-Entwicklung bemerkenswert, in der Unternehmen wie OpenAI, Anthropic und Google DeepMind stark in Infrastruktur investierten. SSIs Ansatz unterschied sich, indem er Sicherheitsforschung über schnelle Bereitstellung betonte, was Investoren anzog, die langfristigen Wert in verantwortungsvoller Superintelligenz-Entwicklung sahen.
Recheninfrastruktur
Die Finanzierung von SSI im September 2024 war teilweise für den Ausbau der Rechenfähigkeiten vorgesehen, die für das Training fortgeschrittener neuronaler Netze unerlässlich sind. Das Unternehmen verließ sich zunächst auf bestehende Cloud-Dienste, suchte jedoch dedizierte Partnerschaften, um seine Betriebsabläufe zu skalieren.
Im April 2025 kündigte Google Cloud eine Partnerschaft an, um Tensor Processing Units (TPUs) für die Forschung von SSI bereitzustellen. Diese Vereinbarung gab SSI Zugang zu spezialisierter Hardware, die für Deep-Learning-Arbeitslasten optimiert ist, und ergänzte die internen Forschungsbemühungen. Die Partnerschaft spiegelte einen breiteren Trend wider, bei dem KI-Labore mit Cloud-Anbietern zusammenarbeiten, um Rechenressourcen zu sichern.
Am 27. Juli 2026 kündigten SSI und Nvidia eine strategische Partnerschaft an, um die Rechenleistung von SSI um "eine Größenordnung" zu erweitern, wobei Nvidia eine Investition von 5 Milliarden US-Dollar plant. Der Deal unterstrich die wachsende Bedeutung spezialisierter neuronaler Netzwerk-Hardware in der Spitzenforschung im Bereich KI sowie den Bedarf von SSI an erheblicher Rechenkapazität.
Mission und Ansatz
Die erklärte Mission von SSI ist es, Superintelligenz sicher zu entwickeln und Sicherheit als zentrales Forschungsproblem zu behandeln, nicht als nachträglichen Gedanken. Die Website des Unternehmens beschreibt es als das "weltweit erste Straight-Shot-SSI-Labor", was auf einen singulären Fokus auf die Erreichung von Superintelligenz ohne Diversifizierung in Produkte oder Dienstleistungen hinweist. Dies steht im Gegensatz zu vielen KI-Unternehmen, die Forschung mit kommerziellen Anwendungen in Einklang bringen.
Die Gründer argumentierten, dass KI-Sicherheit im schnellen Wettlauf um fortgeschrittene Systeme unterbetont wurde. Sutskever, der Schlüsselkomponenten der modernen KI mitentwickelt hat, einschließlich der Transformer-Architektur und Multi-Head-Attention, hat sich seit langem für eine sorgfältige Berücksichtigung von KI-Risiken eingesetzt. Der Ansatz von SSI beinhaltet die Verfolgung grundlegender Sicherheitsforschung neben der Fähigkeitsentwicklung, anstatt Sicherheit als nachträglichen Gedanken zu behandeln.
Mission und Ansatz
Die erklärte Mission von SSI ist es, Superintelligenz sicher zu entwickeln, definiert als ein KI-System, das menschliche kognitive Fähigkeiten bei allen wirtschaftlich wertvollen Aufgaben übertrifft. Die Organisationsstruktur und Forschungsrichtung des Unternehmens priorisieren Sicherheit als zentrales Designprinzip, mit dem Ziel, Systeme zu schaffen, die sowohl hochfähig als auch mit menschlichen Werten ausgerichtet sind.
Die Website des Unternehmens betont seine Unabhängigkeit von typischen Startup-Druck, was darauf hindeutet, dass SSI strukturiert ist, um langfristige Forschungsziele zu verfolgen, ohne gezwungen zu sein, Produkte vorzeitig auszuliefern. Dieser Ansatz findet Anklang bei Bedenken in der Machine-Learning-Gemeinschaft über die potenziellen Risiken fortgeschrittener KI-Systeme, einschließlich existenzieller Risiken.
Spätere Entwicklungen und Bewertung
Im März 2025 erreichte SSI eine Bewertung von 30 Milliarden US-Dollar in einer von Greenoaks Capital angeführten Finanzierungsrunde, sechsmal so viel wie die vorherige Bewertung von 5 Milliarden US-Dollar aus dem September 2024. Das Unternehmen hatte keinen Umsatz erzielt, zog jedoch erhebliches Investoreninteresse an, hauptsächlich aufgrund von Sutskevers Ruf und seinem Fokus auf sichere Superintelligenz. Im April 2025 kündigte Google Cloud eine Partnerschaft an, um Tensor Processing Units für die Forschung von SSI bereitzustellen.
In der ersten Hälfte des Jahres 2025 versuchte Meta, SSI zu übernehmen, aber Sutskever lehnte das Angebot ab. Das Unternehmen erweiterte weiterhin seine technischen Fähigkeiten, und im Juli 2026 ging es eine strategische Partnerschaft mit Nvidia ein. Die Partnerschaft zielte darauf ab, die Rechenleistung von SSI um "eine Größenordnung" zu skalieren, mit einer geplanten Investition von 5 Milliarden US-Dollar von Nvidia, angekündigt am 27. Juli 2026.
Bewertung und Investoreninteresse
Die Bewertungsentwicklung von SSI war bemerkenswert. Die Finanzierungsrunde im September 2024 bewertete das Unternehmen wünschenswerterweise mit 5 Milliarden US-Dollar. Im März 2025 erhöhte eine von Greenoaks Capital angeführte Finanzierungsrunde die Bewertung von SSI auf 30 Milliarden US-Dollar, eine sechsfache Steigerung trotz der kleinen Teamgröße und des fehlenden Umsatzes. Diese Bewertung spiegelte das Vertrauen der Investoren in Sutskevers technische Führung und die strategische Bedeutung der KI-Sicherheit wider.
Zu den Investoren gehörten prominente Risikokapitalgesellschaften wie Sequoia Capital, Andreessen Horowitz und DST Global, neben späterer Beteiligung von Greenoaks Capital in der Runde vom März 2025. Die Fähigkeit des Unternehmens, Kapital zu erheblichen Bewertungen anzuziehen, trotz fehlendem kommerziellem Produkt, wurde auf Sutskevers Ruf als wegweisender Forscher im Bereich Deep Learning und die wahrgenommene Bedeutung der sicherheitsfokussierten Superintelligenz-Entwicklung zurückgeführt.
Forschungsfokus und technischer Ansatz
Obwohl SSI seine technischen Methoden nicht öffentlich detailliert hat, entspricht seine Forschungsrichtung der Weiterentwicklung von Machine-Learning- und Deep-Learning-Techniken. Das Unternehmen wird wahrscheinlich auf grundlegenden Arbeiten zu Transformer-Architekturen aufbauen, die modernen KI-Systemen zugrunde liegen, und möglicherweise neuartige Alignment-Techniken erforschen, um sicherzustellen, dass superintelligente Systeme wie beabsichtigt funktionieren.
SSIs Betonung der Sicherheit unterscheidet es von vielen Wettbewerbern. Forscher auf diesem Gebiet haben lange über die Risiken fortgeschrittener KI debattiert, wobei Konzepte wie existenzielle Risiken durch KI Aufmerksamkeit erlangten. Der Ansatz von SSI integriert Sicherheitsüberlegungen in den Entwicklungsprozess, möglicherweise unter Verwendung von Methoden ähnlich wie Verstärkungslernen durch menschliches Feedback oder anderen Alignment-Techniken.
Team und Talentakquise
Die Finanzierung im September 2024 war auch für die Einstellung von Top-Personen auf diesem Gebiet vorgesehen, eine kritische Priorität für SSI angesichts seines kleinen Teams von etwa 20 Mitarbeitern. Das Unternehmen hat Forscher angezogen, die an sicherheitsfokussierter KI-Entwicklung interessiert sind, und baut auf Sutskevers Ruf aus seiner Arbeit bei OpenAI und seinen Beiträgen zur Machine-Learning-Forschung auf.
Daniel Gross brachte Erfahrung aus der Leitung von KI-Bemühungen bei Apple mit, während Daniel Levy Fachwissen aus seiner Arbeit als KI-Forscher bei OpenAI und als Investor beisteuerte. Die kombinierte Glaubwürdigkeit des Gründungsteams in der KI-Gemeinschaft war ein Schlüsselfaktor für die Anziehung von Talenten und Investitionen.
Zeitplan und Bewertungswachstum
Die Entwicklung von SSI war rasant. Nach der Gründung im Juni 2024 und der Finanzierungsrunde im September 2024 erreichte das Unternehmen im März 2025 eine Bewertung von 30 Milliarden US-Dollar, teilweise finanziert von Greenoaks Capital. Dies stellte eine sechsfache Steigerung gegenüber der Bewertung vom September 2024 dar, trotz des fehlenden Umsatzes und des kleinen Teams.
In der ersten Hälfte des Jahres 2025 versuchte Meta, SSI zu übernehmen, aber das Unternehmen lehnte ab. Im Juli 2025 verließ Mitbegründer Daniel Gross SSI, wobei Sutskever die Rolle des alleinigen CEO übernahm. Das Unternehmen setzte seinen unabhängigen Weg fort und betonte seine Mission gegenüber potenziellen Übernahmeangeboten.
Partnerschaften und Rechenerweiterung
Die Partnerschaft von SSI mit Google Cloud im April 2025 bot Zugang zu Tensor Processing Units, spezialisierter Hardware für KI-Arbeitslasten. Dies ergänzte die Forschungsbedürfnisse des Unternehmens, während es daran arbeitete, zusätzliche Infrastruktur zu sichern.
Die im Juli 2026 angekündigte Nvidia-Partnerschaft stellte eine große Erweiterung dar. Nvidia plante, 5 Milliarden US-Dollar in SSI zu investieren und seine Rechenleistung um eine Größenordnung zu skalieren, was umfangreichere Experimente in Training und Sicherheitsforschung ermöglichte. Diese Partnerschaft unterstrich die Bedeutung von Rechenressourcen in der fortgeschrittenen KI-Entwicklung und positionierte SSI für erhebliches Fähigkeitswachstum.
Branchenkontext und Implikationen
Die Entstehung von SSI spiegelt breitere Trends in der KI-Branche wider, in der Bedenken über Sicherheit und das Streben nach Superintelligenz zentrale Themen geworden sind. Im Gegensatz zu Wettbewerbern, die sich auf kommerzielle generative KI-Produkte konzentrieren, priorisiert die Mission von SSI Sicherheitsforschung, was möglicherweise Branchennormen für verantwortungsvolle KI-Entwicklung beeinflusst.
Der Erfolg des Unternehmens bei der Mittelbeschaffung trotz fehlendem Umsatz zeigt die Investorennachfrage nach langfristigen Wetten auf transformative Technologien. Die Partnerschaften von SSI mit großen Cloud-Anbietern und Hardware-Unternehmen wie Nvidia unterstreichen die Bedeutung von Rechenressourcen in der Spitzenforschung im Bereich KI.
Siehe auch
Referenzen
Zu den Quellen gehören öffentliche Ankündigungen von SSI, Offenlegungen von Risikokapitalgesellschaften und Berichte großer Technologienachrichtenmedien. Spezifische finanzielle Details basieren auf Unternehmensaussagen und Investorenkommunikation.
Externe Links
Offizielle Website von Safe Superintelligence Inc.