Safe Superintelligence Inc. (SSI) ist ein amerikanisches Unternehmen für künstliche Intelligenz, das 2024 von Ilya Sutskever, dem ehemaligen Chefwissenschaftler von OpenAI, Daniel Gross, dem früheren Leiter der KI-Bemühungen bei Apple, und Daniel Levy, einem Investor und ehemaligen KI-Forscher bei OpenAI, gegründet wurde. Die erklärte Mission des Unternehmens ist es, sich ausschließlich auf die sichere Entwicklung von Superintelligenz zu konzentrieren - einem computergestützten Agenten, der die menschliche Intelligenz übertrifft. SSI arbeitet mit einem kleinen Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt.
Im Jahr 2025 schloss SSI eine Finanzierungsrunde über 2 Milliarden US-Dollar mit einer Bewertung von 50 Milliarden US-Dollar ab, was einen deutlichen Sprung gegenüber seiner Bewertung von 30 Milliarden US-Dollar im März 2025 darstellt. An der Runde beteiligten sich unter anderem Sequoia Capital und Andreessen Horowitz. Das neue Kapital war für den Ausbau der Rechenkapazitäten und die Einstellung von Spitzenforschungstalenten vorgesehen, da der Wettbewerb um KI-Experten in der gesamten Branche zunahm.
Geschichte
SSI führt seine Ursprünge auf Ereignisse bei OpenAI Ende 2023 und 2024 zurück. Im November 2023 stimmte Sutskever dafür, Sam Altman als CEO von OpenAI zu entfernen. Sutskever erstellte ein 70-seitiges Dossier, in dem er ein Muster unzuverlässigen Verhaltens von Altman behauptete, und argumentierte, dass OpenAI von seiner ursprünglichen Sicherheitsmission abweiche, um Kommerzialisierung zu betreiben, einschließlich der Einwerbung von Milliarden von Staatsfonds des Golf-Kooperationsrats für einen Chip, der mit Nvidia konkurrieren sollte. Nach Altmans Absetzung und anschließender Rückkehr entschuldigte sich Sutskever öffentlich für seine Rolle und verließ OpenAI am 15. Mai 2024.
Am 19. Juni 2024 gab Sutskever auf X die Gründung von SSI zusammen mit Levy (der ebenfalls bei OpenAI gearbeitet hatte) und Gross bekannt. Der Fokus des Unternehmens auf KI-Sicherheit erregte sofort Aufmerksamkeit. Im September 2024 gab SSI bekannt, 1 Milliarde US-Dollar von Investoren wie SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz eingesammelt zu haben. Zu diesem Zeitpunkt hatte SSI etwa 20 Mitarbeiter und keine Einnahmen.
Im März 2025 bewertete eine von Greenoaks Capital angeführte Finanzierungsrunde SSI mit 30 Milliarden US-Dollar, dem Sechsfachen der vorherigen Bewertung. Die Runde überschattete Bedenken hinsichtlich des fehlenden Umsatzes und der winzigen Belegschaft des Unternehmens, die weitgehend durch Sutskever's Ruf in der KI getragen wurde.
Im April 2025 kündigte Google Cloud eine Partnerschaft an, um Tensor Processing Units für die Forschung von SSI bereitzustellen. In der ersten Hälfte des Jahres 2025 versuchte Meta Platforms, SSI zu übernehmen, aber Sutskever lehnte das Angebot ab. Im Juli 2025 verließ Gross SSI, um sich Meta Superintelligence Labs anzuschließen, und Sutskever übernahm die Rolle des CEO von SSI.
2025 2-Milliarden-Dollar-Runde
Die 2-Milliarden-Dollar-Runde, die 2025 abgeschlossen wurde, kam inmitten eines Anstiegs der KI-Finanzierung in der gesamten Branche zustande. Zu den beteiligten Investoren gehörten Sequoia Capital und Andreessen Horowitz, die beide auch frühere Runden von SSI unterstützt hatten. Die Runde bewertete SSI mit 50 Milliarden US-Dollar, was die anhaltende Investorennachfrage nach Unternehmen widerspiegelt, die von prominenten KI-Forschern geleitet werden, selbst ohne Produkt oder Einnahmen.
SSI plante, die Mittel für den Aufbau der Recheninfrastruktur - eine Notwendigkeit für das Training von superintelligenten Systemen - und für die Erweiterung seines Forschungsteams über die anfängliche Belegschaft von etwa 20 Personen hinaus zu verwenden. Die Bewertung implizierte eine Prämie für SSIs singulären Fokus auf sichere Superintelligenz gegenüber kommerziell diversifizierteren Labors wie Anthropic oder OpenAI.
Kultur und Strategie
Die Website von SSI beschreibt das Unternehmen als "das weltweit erste Straight-Shot-SSI-Labor" und betont die Freiheit von "Management-Overhead oder Produktzyklen" sowie die Abschirmung von "kurzfristigem kommerziellem Druck". Mitarbeitern wird davon abgeraten, ihre Zugehörigkeit auf LinkedIn anzugeben, angeblich um das Risiko von Abwerbung inmitten des intensiven Wettbewerbs um KI-Talente zu verringern.
Der US-Hauptsitz des Unternehmens befindet sich in der 317 University Avenue, Palo Alto, Kalifornien. Im Februar 2025 mietete SSI Büros in der Menachem-Begin-Straße 144 in Midtown Tel Aviv, Israel, und richtete damit einen zweiten Forschungsstandort ein.
Der Ansatz von SSI steht im Gegensatz zu dem größerer Labors, die in kurzfristige Produkte wie große Sprachmodelle für Chatbots investieren. Stattdessen zielt SSI darauf ab, grundlegende Forschung in Richtung AGI und letztendlich Superintelligenz zu betreiben, wobei Sicherheit eine Kernbeschränkung darstellt. Diese Mission steht im Einklang mit Bedenken hinsichtlich existenzielle Risiken durch KI und hat Forscher angezogen, die diese Prioritäten teilen.
Rechenpartnerschaft
Im Jahr 2025 schloss SSI eine frühe Rechenpartnerschaft mit Google Cloud für Tensor Processing Units. Später, am 27. Juli 2026, kündigte SSI eine strategische Partnerschaft mit Nvidia an, die die Rechenleistung von SSI um "eine Größenordnung" skalieren und eine geplante Investition von 5 Milliarden US-Dollar umfassen sollte. Der Deal unterstrich die wachsende Bedeutung des Zugangs zu Rechenressourcen für KI-Labors an der Spitze, insbesondere nach der Veröffentlichung von DeepSeek R1, die effiziente Trainingsmethoden demonstrierte.
Diese Partnerschaften positionierten SSI, um neben anderen Labors wie OpenAI, Meta und Google DeepMind um modernste Hardware zu konkurrieren. Insbesondere der Nvidia-Deal war angesichts der Dominanz von Nvidia bei KI-Chips bemerkenswert.
Führung
Ilya Sutskever, Mitbegründer und CEO (seit Juli 2025), hat zuvor OpenAI mitbegründet und dessen KI-Sicherheitsbemühungen geleitet. Sein Weggang von OpenAI folgte der Altman-Kontroverse und wurde in den Technologiemedien ausführlich behandelt.
Daniel Levy, Mitbegründer, war Investor und Forscher bei OpenAI. Daniel Gross, Mitbegründer, hatte KI-Bemühungen bei Apple geleitet und wechselte später im Juli 2025 zu Meta.
Auswirkungen und Rezeption
Das schnelle Bewertungswachstum von SSI - von 5 Milliarden US-Dollar im September 2024 auf 30 Milliarden US-Dollar im März 2025 und 50 Milliarden US-Dollar bis Ende 2025 - spiegelte einen breiteren Trend steigender Investitionen in KI-Startups wider, die sich auf grundlegende Forschung konzentrieren. Kritiker stellten in Frage, ob solche Bewertungen ohne Einnahmen gerechtfertigt seien, während Befürworter auf Sutskevers Erfolgsbilanz und die Knappheit von Forschern verwiesen, die in der Lage sind, sich Superintelligenz zu nähern.
SSI beeinflusste auch die Branchendynamik: Sein Erfolg und seine Philosophie trugen zu einer erneuten Betonung von KI-Sicherheit im mainstream KI-Diskurs bei, und seine Einstellungspraktiken (z. B. LinkedIn-Verheimlichung) wurden von anderen Startups übernommen. Die Ablehnung des Übernahmeversuchs von Meta durch das Unternehmen signalisierte, dass Top-KI-Forscher bereit waren, unabhängig zu bleiben, selbst auf Kosten potenzieller finanzieller Gewinne.
Siehe auch
- KI-Sicherheit
- Künstliche allgemeine Intelligenz
- Existenzielle Risiken durch KI
- OpenAI
- Superintelligenz
- Ilya Sutskever