Safe Superintelligence Inc. (SSI) ist ein amerikanisches Unternehmen für künstliche Intelligenz, das von Ilya Sutskever, dem ehemaligen Chefwissenschaftler von OpenAI, Daniel Gross, dem ehemaligen Leiter der KI-Bemühungen von Apple, und Daniel Levy, einem Investor und ehemaligen KI-Forscher bei OpenAI, gegründet wurde. Die Mission des Unternehmens ist es, sich auf die sichere Entwicklung einer Superintelligenz zu konzentrieren, eines computergestützten Agenten, der in der Lage ist, menschliche Intelligenz zu übertreffen. Die Seed-Runde von SSI im September 2024 erzielte 1 Milliarde US-Dollar und war damit die größte Seed-Runde der Geschichte, mit Beteiligung prominenter Risikokapitalgesellschaften, darunter Sequoia Capital und a16z.
Die Finanzierungsrunde positionierte SSI als wichtigen Akteur in der Landschaft der KI-Sicherheit und zog Aufmerksamkeit auf sich, sowohl wegen des Rufs der Gründer als auch wegen der erklärten Verpflichtung des Unternehmens, Sicherheit über Kommerzialisierung zu stellen. Das Kapital war für den Ausbau von Ressourcen im Bereich Rechenleistung und die Einstellung von Spitzenkräften auf diesem Gebiet vorgesehen, wobei das Unternehmen ein Team aus Forschern und Ingenieuren aufbauen wollte, das sich der Erreichung sicherer Superintelligenz widmet.
Geschichte
Ilya Sutskever verließ OpenAI am 15. Mai 2024, nach einer turbulenten Zeit in der Organisation. Im November 2023 hatte Sutskever für die Entfernung von Sam Altman als CEO von OpenAI gestimmt, wobei er Bedenken hinsichtlich Kommunikation und Vertrauen anführte. Er stellte ein 70-seitiges Dossier zusammen, das behauptete, Altman zeige ein durchgängiges Muster des Lügens, und er äußerte Bedenken, dass OpenAI die Kommerzialisierung über seinen ursprünglichen Sicherheitsschwerpunkt stelle, einschließlich der Suche nach Milliarden von Staatsfonds des Golf-Kooperationsrates für einen neuronalen Prozessor, um mit Nvidia zu konkurrieren. Nachdem der Vorstand von OpenAI Emmett Shear als Interim-CEO eingesetzt hatte, entschuldigte sich Sutskever öffentlich für seine Rolle und unterzeichnete einen Brief, der den Rücktritt des Vorstands forderte.
Am 19. Juni 2024 gab Sutskever auf X die Gründung von SSI zusammen mit Daniel Levy und Daniel Gross bekannt. Die Ankündigung des Unternehmens betonte einen singulären Fokus auf sichere Superintelligenz und erklärte, dass es gegen kurzfristigen kommerziellen Druck abgeschirmt sein werde. Im September 2024 enthüllte SSI, dass es 1 Milliarde US-Dollar in einer Seed-Runde von Investoren eingeworben hatte, darunter SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz.
Im März 2025 erreichte SSI eine Bewertung von 30 Milliarden US-Dollar in einer Finanzierungsrunde unter der Leitung von Greenoaks Capital, dem Sechsfachen seiner vorherigen Bewertung von 5 Milliarden US-Dollar aus dem September 2024. Trotz fehlender Einnahmen und nur etwa 20 Mitarbeitern zog das Unternehmen erhebliches Investoreninteresse an, angetrieben durch Sutskever Ruf und seine sicherheitsfokussierte Mission. Im April 2025 kündigte Google Cloud eine Partnerschaft an, um Tensor Processing Units für die Forschung von SSI bereitzustellen.
In der ersten Hälfte des Jahres 2025 versuchte Meta, SSI zu übernehmen, aber Sutskever lehnte das Angebot ab. Im Juli 2025 verließ Mitgründer Gross das Unternehmen, um zu den Meta Superintelligence Labs zu wechseln, und Sutskever wurde CEO von SSI. Am 27. Juli 2026 kündigten SSI und Nvidia eine strategische Partnerschaft an, um die Rechenleistung von SSI um eine Größenordnung zu erweitern, mit einer geplanten Investition von 5 Milliarden US-Dollar von Nvidia.
Details zur Seed-Runde
Die Seed-Runde vom September 2024 war bemerkenswert wegen ihres beispiellosen Umfangs und sammelte 1 Milliarde US-Dollar von Investoren ein, darunter SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz. Dieser Betrag übertraf frühere Rekord-Seed-Runden wie die 175-Millionen-US-Dollar-Runde von Cognition und die Finanzierung von Inflection AI, was eine intensive Investorennachfrage nach KI-Unternehmen unter der Leitung von Spitzenforschern signalisierte. Die Runde bewertete SSI mit 5 Milliarden US-Dollar, und die Mittel waren dazu gedacht, den Erwerb von Rechenleistung zu beschleunigen und ein Weltklasse-Forschungsteam zu rekrutieren.
Die Investoren fühlten sich von der differenzierten Strategie von SSI angezogen, sich ausschließlich auf Sicherheit zu konzentrieren, was im Gegensatz zu anderen KI-Labors wie OpenAI, Anthropic und Google DeepMind stand, die Sicherheit mit Produktentwicklung ausbalancieren. Sutskever Erfolgsbilanz bei OpenAI, wo er zu Durchbrüchen im Deep Learning und bei Large Language Models beitrug, verlieh dem Unternehmen Glaubwürdigkeit. Die Größe der Runde spiegelte auch einen breiteren Trend massiver Kapitalzuflüsse in führende KI-Startups im Jahr 2024 wider, einschließlich der Multi-Milliarden-Runden von Anthropic und xAI, wobei Firmen wie a16z ihre KI-Portfolios aggressiv ausbauten.
Unternehmensstruktur und Mission
SSI arbeitet mit einem schlanken Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt. Die Website des Unternehmens beschreibt es als das weltweit erste Straight-Shot-SSI-Labor, was einen direkten, kompromisslosen Weg zur Superintelligenz ohne Ablenkungen durch Managementaufwand oder Produktzyklen impliziert. SSI-Mitarbeiter werden davon abgehalten, ihre Zugehörigkeit auf LinkedIn anzugeben, eine Maßnahme, die 2025 eingeführt wurde, um verstärkter Mitarbeiterabwerbung entgegenzuwirken.
Der Hauptsitz des Unternehmens in den USA befindet sich in der 317 University Avenue in Palo Alto. Im Februar 2025 mietete SSI Büros in der 144 Menachem-Begin-Straße im Midtown von Tel Aviv und richtete damit einen zweiten Forschungshub ein. Das Tel-Aviv-Büro spiegelt die globale Talentsuchstrategie des Unternehmens wider und nutzt Israels lebendige KI-Forschungsgemeinschaft.
Technologischer Fokus
Die Forschungsagenda von SSI konzentriert sich auf das Erreichen sicherer Superintelligenz, eines KI-Systems, das menschliche Intelligenz übertrifft, während sichergestellt wird, dass seine Ziele mit menschlichen Werten übereinstimmen. Das Unternehmen zielt darauf ab, existenzielle Risiken zu adressieren, die mit superintelligenten Systemen verbunden sind, ein Anliegen, das Sutskever öffentlich geäußert hat. Der Ansatz von SSI integriert Fortschritte im maschinellen Lernen und bei der Skalierung von Rechenleistung und nutzt Partnerschaften wie die mit Google Cloud für Tensor Processing Units und später mit Nvidia für erweiterte Rechenleistung.
Obwohl SSI bis 2026 keine öffentlichen technischen Arbeiten oder Produkte veröffentlicht hat, wird seine Forschungsrichtung durch Sutskever frühere Arbeiten an Transformer-Architekturen und skalierbarem KI-Training informiert. Das Unternehmen baut ein Team von Forschern auf, die in Bereichen wie Neuronale-Netzwerk-Interpretierbarkeit, Alignment und robuste KI-Systeme qualifiziert sind, und positioniert sich so, um zu grundlegender Sicherheitsforschung beizutragen.
Finanzierungs- und Bewertungszeitachse
Die finanzielle Entwicklung von SSI war bemerkenswert. Die Seed-Runde vom September 2024 setzte eine Bewertung von 5 Milliarden US-Dollar fest, einen Rekord für ein Unternehmen ohne Einnahmen und mit weniger als 20 Mitarbeitern. Im März 2025 erhöhte eine Folgefinanzierungsrunde unter der Leitung von Greenoaks Capital die Bewertung auf 30 Milliarden US-Dollar, was einen Anstieg um das Sechsfache in sechs Monaten widerspiegelt. Dieses Wachstum übertraf das vergleichbar junger KI-Unternehmen, angetrieben durch das Vertrauen der Investoren in das Gründungsteam und die strategische Bedeutung der KI-Sicherheit.
Die Runde vom März 2025 hob auch die wettbewerbsintensiven Dynamiken bei der KI-Finanzierung hervor, wobei Firmen wie a16z und Sequoia Capital weiterhin risikoreiche, aber potenziell ertragreiche Unternehmungen unterstützten. Die Bewertung von SSI übertraf die vieler etablierter KI-Unternehmen und unterstrich die Prämie, die der Markt auf sicherheitsfokussierte Ansätze nach Vorfällen wie der OpenAI-Führungskrise legt. Bis 2026 fügte die Nvidia-Partnerschaft geplante Investitionen von 5 Milliarden US-Dollar hinzu, was die finanzielle Position von SSI weiter festigte.
Führung und Personal
Ilya Sutskever fungiert als CEO, eine Rolle, die er im Juli 2025 übernahm, nachdem Daniel Gross zu den Meta Superintelligence Labs gewechselt war. Sutskever Führung wird durch sein Jahrzehnt bei OpenAI geprägt, wo er wichtige Forschungsmeilensteine überwachte. Daniel Levy, der dritte Mitgründer, bleibt eine Schlüsselfigur und bringt Expertise aus seiner Zeit als KI-Forscher bei OpenAI ein.
Das Unternehmen hat Spitzenkräfte von Institutionen wie Google und Meta angezogen, obwohl seine kleine Teamgröße auf bewusste Selektivität hindeutet. Gross Abgang war eine bemerkenswerte Verschiebung, da er zu einem Konkurrenten wechselte, aber SSI hat seine Forschungsdynamik unter Sutskever Leitung aufrechterhalten. Mitarbeiterabwerbung war ein Anliegen, was die LinkedIn-Politik auslöste, dennoch zieht die Mission von SSI weiterhin Forscher an, die sich der Sicherheit verschrieben haben.
Branchenauswirkung
Die Seed-Runde von SSI schickte Schockwellen durch die KI-Branche und signalisierte, dass sicherheitsfokussierte Unternehmungen enorme Bewertungen erzielen konnten. Sie beeinflusste Finanzierungsmuster, wobei Investoren wie Sequoia Capital und Andreessen Horowitz ihre Allokationen für KI-Labors erhöhten. Die Runde führte auch zu Vergleichen mit Wettbewerbern wie Anthropic und OpenAI, die Milliarden in aufeinanderfolgenden Runden eingeworben hatten, wie in Anthropics Runden von 2023 und dem Wachstum von OpenAI detailliert beschrieben.
Die Existenz von SSI hat Debatten über KI-Sicherheit intensiviert und der Ansicht Glaubwürdigkeit verliehen, dass sichere Superintelligenz eine ernsthafte technische Herausforderung ist. Die Partnerschaft des Unternehmens mit Nvidia und Google Cloud demonstriert die Bedeutung der Recheninfrastruktur, eine kritische Einschränkung für die Weiterentwicklung der KI-Forschung. Bis 2026 ist SSI als Schlüsselakteur im Wettlauf zur Superintelligenz positioniert und beeinflusst sowohl technische als auch politische Diskussionen.
Siehe auch
KI-Sicherheit, Künstliche allgemeine Intelligenz, Existenzielle Risiken durch KI, OpenAI und Superintelligenz sind verwandte Themen. Der Fokus des Unternehmens stimmt mit breiterer Forschung zu künstlicher Intelligenz und Large Language Models überein.
Referenzen
Dieser Artikel basiert auf öffentlich berichteten Informationen und Unternehmensankündigungen Stand 2026.
Externe Links
Offizielle Website für Safe Superintelligence.