Safe Superintelligence Inc. (SSI) एक AI अनुसंधान कंपनी है जिसकी स्थापना जून 2024 में Ilya Sutskever द्वारा की गई थी, जो पूर्व मुख्य वैज्ञानिक और OpenAI के सह-संस्थापक थे, साथ ही Daniel Gross और Daniel Levy भी शामिल थे। कंपनी स्वयं को एक ही उद्देश्य का पीछा करने वाली बताती है, एक सुरक्षित Superintelligence का निर्माण, बिना किसी अन्य उत्पाद के, और यह कहती है कि वह उस लक्ष्य तक पहुँचने से पहले कोई मध्यवर्ती व्यावसायिक प्रणाली जारी नहीं करेगी।
स्थापना
Sutskever ने मई 2024 में OpenAI छोड़ दिया, नवंबर 2023 के OpenAI बोर्ड संकट में केंद्रीय भूमिका निभाने के कई महीनों बाद, जिसने संक्षेप में Sam Altman को CEO पद से हटा दिया था। उन्होंने पहले OpenAI की Superalignment टीम का नेतृत्व किया था, जो भविष्य की अति-मानवीय AI प्रणालियों को संरेखित करने पर केंद्रित थी, एक ऐसी टीम जो उनके और सह-नेता Jan Leike के जाने के बाद प्रभावी रूप से भंग कर दी गई थी। SSI की घोषणा Palo Alto, California और Tel Aviv, Israel में कार्यालयों के साथ की गई थी, जो Sutskever और Gross की संबंधित पृष्ठभूमि को दर्शाता है, और कंपनी ने कहा कि उसने पहले ही एक छोटी, जानबूझकर सघन तकनीकी टीम इकट्ठा करना शुरू कर दिया है, बजाय व्यापक रूप से कर्मचारियों की संख्या बढ़ाने के।
संरचना और वित्तपोषण
SSI ने AI अनुसंधान की सीमा पर काम करने वाली कंपनी के लिए एक असामान्य सार्वजनिक रुख अपनाया: इसने शुरू से ही घोषणा की कि यह अल्पकालिक व्यावसायिक और उत्पाद दबावों से अलग रहेगी, उत्पाद लॉन्च, बेंचमार्क प्रतिस्पर्धा और त्रैमासिक राजस्व लक्ष्यों के चक्र से बचते हुए, जो OpenAI, Anthropic, और Google DeepMind जैसी प्रयोगशालाओं को आकार देते हैं। निकट-अवधि के उत्पादों से परहेज करने के बावजूद, SSI ने पर्याप्त उद्यम वित्तपोषण जुटाया, जिसमें 2024 का एक दौर शामिल है जो लगभग $1 बिलियन बताया गया था और 2025 के माध्यम से आगे का वित्तपोषण जिसने इसके मूल्यांकन को दसियों अरब डॉलर में धकेल दिया, जो बिना किसी सार्वजनिक उत्पाद, बेंचमार्क परिणाम या राजस्व वाली कंपनी के लिए उल्लेखनीय है। Daniel Gross, एक पूर्व Y Combinator साथी और AI निवेशक, 2025 में कंपनी की परिचालन भूमिका से हटकर Meta के सुपरइंटेलिजेंस प्रयास में शामिल हो गए, जबकि Sutskever CEO के रूप में जारी रहे।
स्वागत
SSI की आधार परिकल्पना, कि सुरक्षा और क्षमता को एक ही अनुसंधान एजेंडे से एक साथ आगे बढ़ाया जाना चाहिए, न कि एक सक्षम मॉडल के पहले से मौजूद होने के बाद जोड़ा जाना चाहिए, ने रुचि और संदेह दोनों आकर्षित किए। समर्थकों ने इसे AI संरेखण अनुसंधान में खोजे गए विचारों का एक स्वाभाविक विस्तार और एक शर्त के रूप में देखा कि एक छोटी, केंद्रित टीम प्रगति कर सकती है जिसे अन्य प्रयोगशालाओं के व्यावसायिक दायित्व दबा देते हैं। संदेह करने वालों ने सवाल उठाया कि क्या कोई भी प्रयोगशाला उस प्रणाली के निर्माण से पहले अस्तित्वगत जोखिम को हल करने का विश्वसनीय दावा कर सकती है, जिससे जोखिम संबंधित है, और नोट किया कि SSI का रिकॉर्ड मूल्यांकन, बिना किसी खुलासा किए गए उत्पाद या बेंचमार्क के, उतना ही निवेशकों के Sutskever पर व्यक्तिगत विश्वास को दर्शाता है जितना कि कंपनी के घोषित मिशन को। 2025 तक, SSI ने कोई सार्वजनिक मॉडल, पेपर या बेंचमार्क जारी नहीं किया था।