Safe Superintelligence Inc. (SSI) ist ein israelisch-amerikanisches Unternehmen für künstliche Intelligenz, das im Juni 2024 von Ilya Sutskever, Daniel Gross und Daniel Levy gegründet wurde. Das Unternehmen konzentriert sich ausschließlich auf die Entwicklung von Superintelligenz - einem computergestützten Agenten, der in der Lage ist, menschliche Intelligenz zu übertreffen - und legt dabei besonderen Wert auf Sicherheitsmaßnahmen. SSI arbeitet mit einem kleinen Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt, und hat trotz fehlender Einnahmen bedeutende Investitionen angezogen.
Das Unternehmen entstand aus einer Zeit der Turbulenzen bei OpenAI, wo Mitbegründer Sutskever in einen Vorstandsstreit verwickelt war. Das Gründungsteam von SSI vereinte Fachwissen aus großen KI- und Technologieorganisationen: Sutskever war zuvor Chefwissenschaftler bei OpenAI, Gross leitete die KI-Bemühungen bei Apple, und Levy brachte Erfahrung als Investor und ehemaliger OpenAI-Forscher mit.
Gründung und Mission
Am 15. Mai 2024 verließ Ilya Sutskever OpenAI nach einem Vorstandsstreit, bei dem er für die Entlassung von CEO Sam Altman stimmte, aus Sorge um Kommunikation und Vertrauen. Sutskever und seine Kollegen glaubten, dass OpenAI seinen ursprünglichen Sicherheitsschwerpunkt zugunsten von Kommerzialisierungsmöglichkeiten vernachlässigte. Am 19. Juni 2024 gab Sutskever auf X die Gründung der SSI Inc. zusammen mit Daniel Levy und Daniel Gross bekannt.
Die erklärte Mission von SSI ist es, das "weltweit erste Straight-Shot-SSI-Labor" zu sein, das von "Management-Overhead oder Produktzyklen" unberührt bleiben und von "kurzfristigem kommerziellem Druck abgeschirmt" sein soll. Die Unternehmensstruktur vermeidet bewusst traditionelle Produktentwicklungszeitpläne, sodass sich die Forscher auf langfristige Sicherheits- und Fähigkeitsforschung in künstlicher Intelligenz konzentrieren können.
Finanzierungsrunde September 2024
Im September 2024 gab SSI bekannt, 1 Milliarde US-Dollar von prominenten Risikokapitalgesellschaften wie SV Angel, DST Global, Sequoia Capital und Andreessen Horowitz eingesammelt zu haben. Diese Anfangsinvestition war für den Ausbau der Rechenleistung und die Einstellung von Spitzenkräften auf diesem Gebiet vorgesehen. Die Runde bewertete das Unternehmen mit etwa 5 Milliarden US-Dollar, was das starke Vertrauen der Investoren in die Qualifikationen des Gründungsteams und den fokussierten Ansatz des Unternehmens in Bezug auf KI-Sicherheit widerspiegelt.
Die Finanzierung erregte Aufmerksamkeit, weil SSI keine Einnahmen und nur ein kleines Team hatte, aber die Investoren wurden von Sutskevers Ruf als führender Forscher im Bereich Deep Learning und seiner zentralen Rolle bei der Entwicklung moderner großer Sprachmodelle angezogen.
Bewertungsmeilenstein März 2025
Im März 2025 erreichte SSI eine Bewertung von 30 Milliarden US-Dollar in einer von Greenoaks Capital angeführten Finanzierungsrunde. Dies entsprach einer Versechsfachung gegenüber der Bewertung vom September 2024. Trotz etwa 20 Mitarbeitern und ohne Einnahmen zog das Unternehmen erhebliches Investoreninteresse auf sich, hauptsächlich aufgrund von Sutskevers Ruf und seinem singulären Fokus auf die Entwicklung sicherer Superintelligenz.
Die Bewertung platzierte SSI unter den wertvollsten privaten KI-Unternehmen, vergleichbar mit etablierten Akteuren wie Anthropic und Google DeepMind. Investoren betrachteten den Sicherheits-zuerst-Ansatz des Unternehmens als Unterscheidungsmerkmal in einem Markt, der zunehmend um die Risiken fortschrittlicher KI-Systeme besorgt ist.
Strategische Partnerschaften und Wachstum
Im April 2025 kündigte Google Cloud eine Partnerschaft an, um Tensor Processing Units (TPUs) für die Forschung von SSI bereitzustellen. Diese Zusammenarbeit verschaffte SSI Zugang zu spezialisierter Hardware für das Training fortschrittlicher Modelle und ergänzte die eigenen Recheninvestitionen.
In der ersten Hälfte des Jahres 2025 versuchte Meta Berichten zufolge, SSI zu übernehmen, aber Sutskever lehnte das Angebot ab. Im Juli 2025 verließ Mitbegründer Daniel Gross das Unternehmen, um zu Meta Superintelligence Labs zu wechseln, wodurch Sutskever als alleiniger CEO von SSI zurückblieb. Der Abgang schien die Entwicklung des Unternehmens nicht zu beeinträchtigen, da es weiterhin Investitionen und Partnerschaften anzog.
Nvidia-Partnerschaft und Rechenausbau
Am 27. Juli 2026 kündigten SSI und Nvidia eine strategische Partnerschaft an, um die Rechenkapazität von SSI um "eine Größenordnung" zu erweitern. Der Deal umfasste eine geplante Investition von 5 Milliarden US-Dollar von Nvidia in SSI, was eine der größten Unternehmensinvestitionen in sicherheitsfokussierte KI-Forschung darstellt. Die Partnerschaft sollte SSI die massiven Rechenressourcen verschaffen, die für das Training superintelligenter Systeme erforderlich sind.
Diese Zusammenarbeit positionierte SSI so, dass es in Bezug auf rohe Rechenleistung mit großen KI-Labors konkurrieren konnte, während es seinen besonderen Fokus auf Sicherheit beibehielt. Die Nvidia-Investition signalisierte auch Vertrauen in den technischen Ansatz und die langfristige Lebensfähigkeit von SSI.
Team und Forschungsansatz
Das kleine Team von SSI umfasst Forscher und Ingenieure aus führenden KI-Organisationen, darunter ehemalige Mitglieder von OpenAI, DeepMind und anderen Top-Labors. Der Forschungsansatz des Unternehmens betont Sicherheit als primäre Designbeschränkung und nicht als nachträglichen Gedanken, mit einem Fokus auf die Entwicklung von Methoden, um sicherzustellen, dass superintelligente Systeme mit menschlichen Werten übereinstimmen.
Die Unternehmensstruktur ist bewusst schlank und vermeidet die groß angelegten Produktentwicklungsteams, die für kommerzielle KI-Unternehmen typisch sind. Dies ermöglicht es den Forschern, grundlegende Fragen in maschinellem Lernen und neuronalen Netzen ohne kommerziellen Druck zu verfolgen.