Safe Superintelligence Inc. (SSI) ist ein KI-Forschungsunternehmen, das im Juni 2024 von Ilya Sutskever, dem ehemaligen Chefwissenschaftler und Mitbegründer von OpenAI, zusammen mit Daniel Gross und Daniel Levy gegründet wurde. Das Unternehmen beschreibt sich selbst als ein einziges Ziel verfolgend, nämlich den Bau einer sicheren Superintelligence, ohne andere Produkte, und erklärt, dass es vor Erreichen dieses Ziels keine Zwischenprodukte für den kommerziellen Markt veröffentlichen wird.
Gründung
Sutskever verließ OpenAI im Mai 2024, mehrere Monate nachdem er eine zentrale Rolle in der OpenAI-Vorstandskrise im November 2023 gespielt hatte, die Sam Altman kurzzeitig als CEO absetzte. Zuvor hatte er das Superalignment-Team von OpenAI geleitet, das sich auf die Ausrichtung zukünftiger superintelligenter KI-Systeme konzentrierte; dieses Team wurde nach seinem und dem Ausscheiden des Co-Leiters Jan Leike faktisch aufgelöst. SSI wurde mit Büros in Palo Alto, Kalifornien, und Tel Aviv, Israel, angekündigt, was den jeweiligen Hintergründen von Sutskever und Gross entspricht, und das Unternehmen gab an, bereits mit dem Aufbau eines kleinen, bewusst kompakten technischen Teams begonnen zu haben, anstatt die Mitarbeiterzahl breit zu skalieren.
Struktur und Finanzierung
SSI nahm für ein Unternehmen an der Spitze der KI-Forschung eine ungewöhnliche öffentliche Haltung ein: Es erklärte von vornherein, dass es von kurzfristigen kommerziellen und Produktdruck abgeschirmt bleiben werde, und den Zyklus aus Produkteinführungen, Benchmark-Wettbewerben und vierteljährlichen Umsatzzielen vermeide, der Labore wie OpenAI, Anthropic und Google DeepMind prägt. Trotz des Verzichts auf kurzfristige Produkte sammelte SSI erhebliches Wagniskapital ein, darunter eine Runde im Jahr 2024, die auf rund 1 Milliarde US-Dollar geschätzt wurde, sowie weitere Finanzierungen bis 2025, die seine Bewertung auf mehrere zehn Milliarden US-Dollar trieben - bemerkenswert für ein Unternehmen ohne öffentliches Produkt, Benchmark-Ergebnis oder Umsatz. Daniel Gross, ein ehemaliger Y-Combinator-Partner und KI-Investor, verließ seine operative Rolle im Unternehmen im Jahr 2025, um sich dem Superintelligenz-Projekt von Meta anzuschließen, während Sutskever weiterhin als CEO fungierte.
Rezeption
Die Prämisse von SSI, dass Sicherheit und Leistungsfähigkeit gemeinsam aus einer einzigen Forschungsagenda verfolgt werden sollten, anstatt sie erst nachträglich an ein bereits leistungsfähiges Modell anzudocken, stieß sowohl auf Interesse als auch auf Skepsis. Befürworter sahen darin eine natürliche Erweiterung von Ideen aus der KI-Ausrichtungsforschung und eine Wette darauf, dass ein kleineres, fokussiertes Team Fortschritte erzielen könnte, die in anderen Laboren durch kommerzielle Verpflichtungen verdrängt werden. Skeptiker stellten infrage, ob ein Labor glaubwürdig behaupten kann, das existenzielle Risiko gelöst zu haben, bevor es das System gebaut hat, um das es bei diesem Risiko geht, und merkten an, dass die rekordverdächtige Bewertung von SSI ohne ein offengelegtes Produkt oder Benchmark-Ergebnis ebenso sehr das Vertrauen der Investoren in Sutskever persönlich widerspiegele wie die erklärte Mission des Unternehmens. Stand 2025 hatte SSI weder ein öffentliches Modell, eine Veröffentlichung noch ein Benchmark-Ergebnis herausgebracht.