Safe Superintelligence Inc. (SSI) ist ein israelisch-amerikanisches Unternehmen für künstliche Intelligenz, das im Juni 2024 von Ilya Sutskever, dem ehemaligen Chefwissenschaftler von OpenAI, Daniel Gross, dem früheren Leiter der KI-Bemühungen von Apple, und Daniel Levy, einem Investor und ehemaligen KI-Forscher bei OpenAI, gegründet wurde. Die erklärte Mission des Unternehmens ist es, sich ausschließlich auf die sichere Entwicklung von Superintelligenz zu konzentrieren - einem computergestützten Agenten, der in der Lage ist, menschliche Intelligenz zu übertreffen - und sich dabei von kurzfristigen kommerziellen Zwängen zu isolieren. SSI arbeitet mit einem kleinen Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt, und hat aufgrund des Rufs seiner Gründer und seines singulären Fokus auf KI-Sicherheit erhebliches Investoreninteresse geweckt.
Gründung und frühe Geschichte
Am 15. Mai 2024 verließ Ilya Sutskever OpenAI nach einem Vorstandsstreit, bei dem er für die Entlassung von CEO Sam Altman stimmte, und verwies auf Bedenken hinsichtlich Kommunikation und Vertrauen. Sutskever und andere glaubten, dass OpenAI seinen ursprünglichen Fokus auf Sicherheit zugunsten von Kommerzialisierungsmöglichkeiten vernachlässigte. Am 19. Juni 2024 kündigte Sutskever auf X an, dass er zusammen mit Daniel Levy und Daniel Gross SSI Inc. gründet, mit dem Ziel, superintelligente KI sicher zu entwickeln. Die Website des Unternehmens beschreibt es als das "weltweit erste Straight-Shot-SSI-Labor", das von "Management-Overhead oder Produktzyklen" unberührt und "von kurzfristigen kommerziellen Zwängen isoliert" sein soll.
Die 1-Milliarden-Dollar-Finanzierungsrunde (September 2024)
Im September 2024 gab SSI bekannt, dass es 1 Milliarde Dollar von Risikokapitalfirmen wie SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz aufgebracht hatte. Diese Runde bewertete das Unternehmen mit 5 Milliarden Dollar, obwohl SSI zu diesem Zeitpunkt keine Einnahmen und nur etwa 20 Mitarbeiter hatte. Die Mittel waren für den Aufbau von Rechenleistung und die Einstellung von Top-Talenten im Bereich künstliche Intelligenz vorgesehen. Die Runde war bemerkenswert für ihre Größe und Geschwindigkeit, was das starke Vertrauen der Investoren in Sutskevers Vision und die wachsende Nachfrage nach KI-Sicherheitslösungen widerspiegelte.
Spätere Finanzierung und Bewertungswachstum
Im März 2025 erreichte SSI eine Bewertung von 30 Milliarden Dollar in einer von Greenoaks Capital geführten Finanzierungsrunde, dem Sechsfachen seiner vorherigen Bewertung von 5 Milliarden Dollar aus dem September 2024. Dieser rasche Anstieg erfolgte, obwohl das Unternehmen weiterhin keine Einnahmen erzielte und eine Belegschaft von etwa 20 Mitarbeitern aufrechterhielt. Das Investoreninteresse wurde weitgehend durch Sutskevers Ruf als führender KI-Forscher und den ausschließlichen Fokus des Unternehmens auf sichere Superintelligenz-Entwicklung getrieben. Die Bewertung platzierte SSI unter den wertvollsten privaten KI-Unternehmen, vergleichbar mit etablierten Akteuren wie OpenAI und Anthropic.
Partnerschaften und Ausbau der Rechenleistung
Im April 2025 kündigte Google Cloud eine Partnerschaft an, um TPUs (Tensor Processing Units) für SSIs Forschung bereitzustellen, was dem Unternehmen Zugang zu spezialisierter Hardware für das Training großer Modelle verschaffte. In der ersten Hälfte des Jahres 2025 versuchte Meta, SSI zu übernehmen, wurde jedoch von Sutskever abgewiesen, der es vorzog, das Unternehmen unabhängig zu halten. Am 27. Juli 2026 kündigten SSI und Nvidia eine strategische Partnerschaft an, um SSIs Rechenleistung um "eine Größenordnung" zu erweitern, wobei der Deal eine geplante Investition von 5 Milliarden Dollar von Nvidia umfasste. Diese Partnerschaft sollte SSIs Rechenressourcen erheblich skalieren und ehrgeizigere Forschung an großen Sprachmodellen und anderen KI-Systemen ermöglichen.
Führung und Team
Ilya Sutskever ist CEO von SSI, eine Rolle, die er übernahm, nachdem Mitgründer Daniel Gross das Unternehmen im Juli 2025 verließ, um zu Meta Superintelligence Labs zu wechseln. Daniel Levy bleibt als Mitgründer und Forscher involviert. Das Team ist bewusst klein und besteht aus Forschern und Ingenieuren, die aufgrund ihrer Expertise in Deep Learning und KI-Sicherheit ausgewählt wurden. Die Unternehmensstruktur betont Forschung über Produktentwicklung, mit einer flachen Hierarchie und einem Fokus auf langfristige Ziele statt auf Quartalsergebnisse. Dieser Ansatz hat Talente aus großen KI-Labors angezogen, darunter ehemalige Mitarbeiter von OpenAI und Google DeepMind.
Mission und Ansatz zur KI-Sicherheit
SSIs Mission ist es, Superintelligenz zu entwickeln - ein KI-System, das menschliche Intelligenz übertrifft - und gleichzeitig sicherzustellen, dass es sicher und mit menschlichen Werten ausgerichtet ist. Das Unternehmen unterscheidet sich von anderen KI-Labors, indem es Sicherheit zum primären Ziel macht, anstatt zu einer sekundären Überlegung. Sein Ansatz umfasst Forschung zu Alignment-Techniken, Interpretierbarkeit und robusten KI-Architekturen, basierend auf Arbeiten in maschinellem Lernen und neuronalen Netzen. Die Gründer von SSI haben argumentiert, dass das Rennen um die Entwicklung fortschrittlicher KI von strengen Sicherheitsmaßnahmen begleitet werden muss, um existenzielle Risiken zu verhindern. Die "Straight-Shot"-Philosophie des Unternehmens bedeutet, dass es vermeidet, sich in kommerzielle Produkte zu diversifizieren, und stattdessen alle Ressourcen der Erreichung seines sicherheitsorientierten Ziels widmet.
Branchenkontext und Rezeption
Die Gründung von SSI erfolgte zu einer Zeit erhöhter Besorgnis über KI-Sicherheit, nach der schnellen Bereitstellung generativer KI-Systeme und Debatten über ihre potenziellen Risiken. Sutskevers Weggang von OpenAI und seine anschließende Gründung von SSI wurden in der Technologiepresse ausführlich behandelt, wobei viele Kommentatoren dies als Bestätigung von Sicherheitsbedenken betrachteten. Die hohen Bewertungen des Unternehmens trotz minimaler Einnahmen wurden als Wette auf die zukünftige Bedeutung sicherer KI-Entwicklung gesehen. SSI operiert in einer wettbewerbsintensiven Landschaft, die große KI-Labors wie OpenAI, Anthropic und Google DeepMind sowie Startups umfasst, die sich auf KI-Sicherheitsforschung konzentrieren. Seine Partnerschaften mit Cloud-Anbietern und Hardware-Unternehmen haben es positioniert, seine Forschungskapazitäten zu skalieren, während es seinen unabhängigen Fokus beibehält.