Safe Superintelligence Inc. (SSI) ist ein amerikanisches Unternehmen für künstliche Intelligenz, das sich der sicheren Entwicklung von Superintelligenz widmet - einem computerbasierten Agenten, der in der Lage ist, menschliche Intelligenz zu übertreffen. Das Unternehmen wurde im Juni 2024 von Ilya Sutskever, dem ehemaligen Chefwissenschaftler von OpenAI, Daniel Gross, dem ehemaligen Leiter der KI-Bemühungen bei Apple, und Daniel Levy, einem Investor und ehemaligen KI-Forscher bei OpenAI, gegründet und hat trotz fehlender Einnahmen erhebliches Investoreninteresse geweckt. Im März 2025 schloss SSI eine Finanzierungsrunde über 2 Milliarden US-Dollar bei einer Bewertung von 30 Milliarden US-Dollar ab, angeführt von Lightspeed Venture Partners, was einer sechsfachen Steigerung gegenüber der vorherigen Bewertung von 5 Milliarden US-Dollar im September 2024 entspricht.
Die Mission des Unternehmens betont einen „Direktflug"-Ansatz zur Superintelligenz, der sich von kurzfristigem kommerziellem Druck und Management-Overhead abschottet. Mit einem kleinen Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt, ist SSI zu einem Brennpunkt in der Debatte über KI-Sicherheit geworden und zieht sowohl Investitions- als auch Übernahmeinteresse großer Technologieunternehmen auf sich.
Gründung und Hintergrund
Ilya Sutskever, ein Mitbegründer von OpenAI, verließ die Organisation am 15. Mai 2024, nach einer turbulenten Phase, die die Absetzung und Wiedereinsetzung von Sam Altman als CEO umfasste. Im November 2023 stimmte Sutskever für die Absetzung Altmans und nannte Bedenken hinsichtlich Kommunikation und Vertrauen; er erstellte ein 70-seitiges Dossier, das ein „konsistentes Muster des Lügens" behauptete. Sutskever und andere glaubten, dass OpenAI die Kommerzialisierung über die Sicherheit stellte, einschließlich der Suche nach Milliarden von Staatsfonds des Golf-Kooperationsrates für eine neuronale Verarbeitungseinheit, um mit Nvidia zu konkurrieren. Nachdem der Vorstand Emmett Shear als Interim-CEO eingesetzt hatte, entschuldigte sich Sutskever öffentlich und schloss sich den Mitarbeiterforderungen nach dem Rücktritt des Vorstands an.
Am 19. Juni 2024 kündigte Sutskever die Gründung von SSI auf X an, zusammen mit Daniel Levy und Daniel Gross. Gross hatte zuvor die KI-Bemühungen bei Apple geleitet, während Levy Erfahrung als Investor und KI-Forscher bei OpenAI einbrachte. Die Gründung des Unternehmens signalisierte einen erneuten Fokus auf sicherheitsorientierte KI-Entwicklung, die sich von den kommerziellen Entwicklungen anderer großer Labore unterscheidet.
Finanzierungsgeschichte
Im September 2024 sammelte SSI 1 Milliarde US-Dollar von Risikokapitalfirmen wie SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz ein. Diese erste Runde bewertete das Unternehmen mit 5 Milliarden US-Dollar und war darauf ausgelegt, Rechenleistung aufzubauen und Top-Talente einzustellen. Die Runde im März 2025, angeführt von Lightspeed, brachte die Bewertung auf 30 Milliarden US-Dollar, eine sechsfache Steigerung in sechs Monaten. Trotz nur etwa 20 Mitarbeitern und ohne Einnahmen wurde die Begeisterung der Investoren durch Sutskevers Ruf und die sicherheitsorientierte Mission des Unternehmens getrieben.
Die Finanzierungsrunde fand inmitten eines breiteren Anstiegs der KI-Investitionen statt, wobei Wettbewerber wie Anthropic in den Jahren 2023 und 2024 Milliarden einwarben und andere Startups wie Figure AI und Mistral erhebliche Runden sicherten. Die Fähigkeit von SSI, mit minimalem Personal eine hohe Bewertung zu erzielen, unterstrich die Prämie, die auf KI-Sicherheitsexpertise gelegt wird.
Strategische Partnerschaften und Rechenleistung
Im April 2025 kündigte Google Cloud eine Partnerschaft an, um Tensor Processing Units (TPUs) für die Forschung von SSI bereitzustellen, was dem Unternehmen Zugang zu spezialisierter Hardware für das Training großer Modelle verschaffte. Darauf folgte eine bedeutendere Partnerschaft mit Nvidia, die am 27. Juli 2026 angekündigt wurde. Der Nvidia-Deal umfasste eine geplante Investition von 5 Milliarden US-Dollar und zielte darauf ab, die Rechenleistung von SSI um „eine Größenordnung" zu skalieren, was das Unternehmen positionierte, um Modelle in beispiellosem Umfang zu trainieren, während Sicherheitsprotokolle beibehalten wurden.
Diese Partnerschaften spiegeln die Strategie von SSI wider, externe Infrastruktur zu nutzen, anstatt eigene Rechenzentren zu bauen, ähnlich wie andere KI-Labore wie Anthropic mit Google Cloud und Amazon Web Services. Die Nvidia-Investition signalisierte insbesondere Vertrauen in das langfristige Potenzial von SSI, trotz des frühen Stadiums des Unternehmens.
Übernahmeversuche und Führungswechsel
In der ersten Hälfte des Jahres 2025 versuchte Meta Platforms, SSI zu übernehmen, aber Sutskever lehnte das Angebot ab und bewahrte die Unabhängigkeit des Unternehmens. Im Juli 2025 verließ Mitbegründer Daniel Gross SSI, um zu Meta Superintelligence Labs zu wechseln, einer neuen Abteilung, die sich auf fortgeschrittene KI-Forschung konzentriert. Nach Gross' Abgang wurde Sutskever CEO von SSI und konsolidierte die Führung.
Der Übernahmeversuch von Meta hob die strategische Bedeutung von KI-Sicherheitstalenten hervor, da große Technologieunternehmen versuchten, ihre KI-Fähigkeiten zu stärken. Gross' Wechsel zu Meta, zusammen mit anderen prominenten Einstellungen, unterstrich die Wettbewerbslandschaft für KI-Forscher.
Unternehmenskultur und Betrieb
Die Website von SSI beschreibt das Unternehmen als „weltweit erstes Straight-Shot-SSI-Labor", das von „Management-Overhead oder Produktzyklen" unbeeinflusst und von kurzfristigem kommerziellem Druck abgeschirmt sein soll. Mitarbeiter werden davon abgehalten, ihre Zugehörigkeit auf LinkedIn anzugeben, angeblich aufgrund verstärkter Mitarbeiterabwerbung im Jahr 2025. Das Unternehmen unterhält ein kleines, fokussiertes Team, das sich auf den US-Hauptsitz in der 317 University Avenue in Palo Alto, Kalifornien, und ein im Februar 2025 angemietetes Büro in der 144 Menachem Begin Road in Midtown Tel Aviv, Israel, verteilt.
Diese Kultur betont Forschung über Produktentwicklung, mit einem langfristigen Horizont für das sichere Erreichen von Superintelligenz. Die geringe Teamgröße im Vergleich zu anderen KI-Laboren ermöglicht Agilität und ein eng verbundenes Forschungsumfeld, wirft aber auch Fragen zur Skalierbarkeit auf.
Auswirkungen und Rezeption
Die Finanzierungsrunde über 2 Milliarden US-Dollar und die anschließenden Partnerschaften haben SSI als wichtigen Akteur im Bereich der KI-Sicherheit positioniert, neben Organisationen wie Anthropic und akademischen Institutionen. Die Bewertung des Unternehmens trotz fehlender Einnahmen spiegelt den Glauben der Investoren an das Potenzial sicherer Superintelligenz wider, Branchen zu transformieren. Einige Kritiker fragen jedoch, ob sicherheitsorientierte Ansätze mit kommerziell aggressiveren Laboren konkurrieren können, und der Abgang von Gross warf Bedenken hinsichtlich der internen Stabilität auf.
Der Einfluss von SSI erstreckt sich auf politische Diskussionen, da seine Existenz die Nachfrage nach KI-Entwicklung hervorhebt, die der Minderung existenzieller Risiken Priorität einräumt. Die Partnerschaften des Unternehmens mit großen Cloud-Anbietern und Chipherstellern deuten auf einen pragmatischen Ansatz zur Skalierung hin, während eine sicherheitsorientierte Ethik beibehalten wird.