Safe Superintelligence Inc. (SSI) ist ein israelisch-amerikanisches Unternehmen für künstliche Intelligenz, das 2024 mit dem erklärten Ziel gegründet wurde, Superintelligenz sicher zu entwickeln – einen computergestützten Agenten, der die menschliche Intelligenz übertreffen kann. Das Unternehmen wurde von Ilya Sutskever, dem ehemaligen Chefwissenschaftler von OpenAI, Daniel Gross, dem ehemaligen Leiter der KI-Bemühungen von Apple, und Daniel Levy, einem Investor und ehemaligen KI-Forscher bei OpenAI, gegründet. SSI arbeitet mit einem kleinen Team, das sich auf Palo Alto, Kalifornien, und Tel Aviv, Israel, verteilt, und positioniert sich als „weltweit erstes Straight-Shot-SSI-Labor“, das darauf abzielt, von kurzfristigem kommerziellem Druck und Management-Overhead abgeschirmt zu sein.
Gründung und frühe Geschichte
Die Ursprünge von SSI reichen zurück auf interne Konflikte bei OpenAI. Am 15. Mai 2024 verließ Ilya Sutskever OpenAI nach einem Vorstandsstreit, bei dem er für die Entfernung des CEO Sam Altman stimmte, und nannte Bedenken hinsichtlich Kommunikation und Vertrauen. Sutskever und andere glaubten, dass OpenAI sich von seinem ursprünglichen Sicherheitsfokus zugunsten von Kommerzialisierungsmöglichkeiten entfernte. Am 19. Juni entwickelte sich die Superintelligenz sicher weiter.
Das Gründungsteam des Unternehmens brachte umfangreiche technische und branchenspezifische Erfahrung mit. Sutskever war eine Schlüsselfigur bei der Entwicklung von Deep-Learning-Techniken und groß angelegten KI-Systemen bei OpenAI. Gross hatte zuvor KI-Bemühungen bei Apple geleitet und war bekannt für seine Arbeit in Technologieinvestitionen und Startups. Levy war KI-Forscher bei OpenAI und Investor in Technologieunternehmen.
Seed-Finanzierungsrunde
Im September 2024 gab SSI bekannt, dass es 1 Milliarde US-Dollar in einer Seed-Finanzierungsrunde von prominenten Risikokapitalfirmen eingesammelt hatte, darunter SV Angel, DST Global und Sequoia Capital. Im März 2025 erreichte SSI eine Bewertung von 30 Milliarden US-Dollar in einer Finanzierungsrunde unter der Leitung von Greenoaks Capital. Dies stellte eine sechsfache Steigerung dar.
Technische Partnerschaften
Im April 2025 gab Google Cloud eine Partnerschaft bekannt, um TPUs (Tensor Processing Units) für die Forschung von SSI bereitzustellen. Diese Zusammenarbeit verschaffte SSI Zugang zu spezialisierter Hardware, die für maschinelles Lernen optimiert ist, und unterstützte die Forschung an groß angelegten KI-Systemen. Im Juli wurden Modelle entwickelt, die eine kritische Voraussetzung für das Streben nach Superintelligenz darstellen.
Führungswechsel
In der ersten Hälfte des Jahres 2025 versuchte Meta, das Unternehmen zu übernehmen, was jedoch abgelehnt wurde. SSI betonte weiterhin seinen Fokus auf Sicherheit, der es von vielen anderen Bemühungen unterschied, die oft schnelle Bereitstellung und Kommerzialisierung betonten.
Mission und Ansatz
Die erklärte Mission von SSI ist es, Superintelligenz sicher zu entwickeln, ein Ziel, das die Schaffung von KI-Systemen beinhaltet, die die menschliche Intelligenz übertreffen, während sichergestellt wird, dass sie mit menschlichen Werten übereinstimmen. Die Website des Unternehmens beschreibt den Ansatz, der auf dem breiteren Feld der KI-Sicherheit aufbaut, das Risiken im Zusammenhang mit fortschrittlichen KI-Systemen, einschließlich existenzieller Risiken, adressiert. SSI hat keine detaillierten technischen Methoden öffentlich offengelegt, aber die Forschung wird voraussichtlich auf Fortschritten in maschinellem Lernen, großen Sprachmodellen und verwandten Bereichen aufbauen.
Branchenkontext
SSI entstand in einer Zeit rascher Fortschritte in der KI, die durch die Verbreitung von generativer KI-Systemen und zunehmende Investitionen in KI-Infrastruktur gekennzeichnet war. Der Sicherheitsfokus des Unternehmens fand Anklang bei Bedenken, die von Forschern und politischen Entscheidungsträgern über die potenziellen Risiken superintelligenter KI geäußert wurden.
Die Gründung von SSI hob auch anhaltende Debatten innerhalb der KI-Gemeinschaft über das Gleichgewicht zwischen Sicherheit und Kommerzialisierung hervor. Sutskevers Weggang von OpenAI und die anschließende Gründung von SSI wurden weithin als Aussage über die Bedeutung der Priorisierung von Sicherheit gegenüber der Geschwindigkeit der Bereitstellung gesehen.