Safe Superintelligence Inc.(SSI)는 2024년 OpenAI의 전 최고 과학자였던 일리야 수츠케버, Apple의 AI 부문 전 책임자였던 다니엘 그로스, 그리고 투자자이자 OpenAI의 전 AI 연구원이었던 다니엘 레비가 설립한 미국 인공지능 기업이다. 이 회사가 밝힌 사명은 인간의 지능을 능가하는 컴퓨터 기반 에이전트인 초지능을 안전하게 개발하는 데만 전념하는 것이다. SSI는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀으로 운영된다.
2025년, SSI는 500억 달러의 기업 가치로 20억 달러의 자금 조달 라운드를 완료했으며, 이는 2025년 3월의 300억 달러 평가보다 크게 상승한 수치이다. 이 라운드에는 세쿼이아 캐피털과 안드레센 호로위츠를 비롯한 투자자들이 참여했다. 새 자본은 컴퓨팅 용량 확대와 최고 연구 인력 채용에 사용될 예정이었으며, 업계 전반에서 AI 전문가 확보 경쟁이 심화되는 상황이었다.
역사
SSI의 기원은 2023년 말과 2024년의 OpenAI 사건으로 거슬러 올라간다. 2023년 11월, 수츠케버는 샘 올트먼을 OpenAI CEO에서 해임하는 투표에 찬성했다. 수츠케버는 올트먼의 신뢰할 수 없는 행동 패턴을 주장하는 70페이지 분량의 문서를 작성하고, OpenAI가 상업화를 추구하며 원래의 안전 사명에서 벗어나 걸프협력회의 국부펀드로부터 수십억 달러를 조달하여 엔비디아와 경쟁할 칩을 개발하려 한다고 주장했다. 올트먼의 해임과 이후 복귀 후, 수츠케버는 자신의 역할에 대해 공개적으로 사과한 뒤 2024년 5월 15일에 OpenAI를 떠났다.
2024년 6월 19일, 수츠케버는 X에서 레비(역시 OpenAI에서 근무했음)와 그로스와 함께 SSI 설립을 발표했다. 이 회사의 AI 안전 중심 접근은 즉각적인 주목을 받았다. 2024년 9월, SSI는 SV 엔젤, DST 글로벌, 세쿼이아 캐피털, 안드레센 호로위츠 등 투자자들로부터 10억 달러를 모금했다고 밝혔다. 당시 SSI는 약 20명의 직원과 수익이 전혀 없었다.
2025년 3월, 그리노크스 캐피털이 주도한 자금 조달 라운드에서 SSI는 이전 평가의 6배인 300억 달러로 평가되었다. 이 라운드는 수익 부재와 소규모 인력에 대한 우려를 압도했으며, 주로 AI 분야에서의 수츠케버의 평판에 힘입은 것이었다.
2025년 4월, 구글 클라우드는 SSI 연구에 텐서 처리 장치를 제공하는 파트너십을 발표했다. 2025년 상반기, 메타 플랫폼은 SSI를 인수하려 했지만 수츠케버는 제안을 거절했다. 2025년 7월, 그로스는 SSI를 떠나 메타 슈퍼인텔리전스 연구소에 합류했고, 수츠케버는 SSI의 CEO 역할을 맡았다.
2025년 20억 달러 라운드
2025년에 확정된 20억 달러 라운드는 업계 전반의 AI 자금 조달 급증 속에 이루어졌다. 참여 투자자에는 세쿼이아 캐피털과 안드레센 호로위츠가 포함되었으며, 둘 다 SSI의 이전 라운드에도 참여했던 기업이다. 이 라운드는 제품이나 수익이 없음에도 불구하고 저명한 AI 연구자들이 이끄는 벤처에 대한 투자자의 지속적인 수요를 반영하여 SSI를 500억 달러로 평가했다.
SSI는 자금을 초지능 시스템 훈련에 필요한 컴퓨팅 인프라 구축과 초기 약 20명 수준의 연구 팀 확장에 할당할 계획이었다. 이 평가는 앤트로픽이나 OpenAI 같은 상업적으로 더 다각화된 연구소보다 안전한 초지능에 대한 SSI의 단일 초점에 프리미엄을 부여한 것을 의미했다.
문화와 전략
SSI의 웹사이트는 회사를 "세계 최초의 직진 SSI 연구소"로 설명하며, "관리 오버헤드나 제품 주기"로부터의 자유와 "단기 상업적 압력"으로부터의 격리를 강조한다. 직원들은 AI 인재 확보 경쟁이 치열한 가운데 스카우트 위험을 줄이기 위해 LinkedIn에 소속을 표시하지 않도록 권장된다.
회사의 미국 본사는 캘리포니아주 팔로알토 유니버시티 애비뉴 317번지에 있다. 2025년 2월, SSI는 이스라엘 텔아비브 미드타운의 메나헴 베긴 로드 144번지에 사무실을 임대하여 두 번째 연구 허브를 설립했다.
SSI의 접근 방식은 대규모 언어 모델 기반 챗봇과 같은 단기 제품에 투자하는 대형 연구소와 대조적이다. 대신 SSI는 AGI와 궁극적으로 초지능을 향한 기초 연구를 추구하며, 안전을 핵심 제약 조건으로 삼는다. 이 사명은 AI로 인한 실존적 위험에 대한 우려와 일치하며, 이러한 우선순위를 공유하는 연구자들을 끌어모았다.
컴퓨팅 파트너십
2025년, SSI는 텐서 처리 장치 제공을 위해 구글 클라우드와 초기 컴퓨팅 파트너십을 체결했다. 이후 2026년 7월 27일, SSI는 엔비디아와 전략적 파트너십을 발표하여 SSI의 컴퓨팅을 "한 자릿수 규모"로 확장하고 50억 달러 규모의 투자를 계획했다. 이 계약은 특히 DeepSeek R1 출시 이후 효율적인 훈련 방법이 입증되면서 프런티어 AI 연구소에서 컴퓨팅 접근의 중요성이 커지는 상황을 강조했다.
이러한 파트너십으로 SSI는 OpenAI, 메타, 구글 딥마인드 같은 다른 연구소와 함께 최첨단 하드웨어를 놓고 경쟁할 수 있게 되었다. 특히 엔비디아 계약은 AI 칩 시장에서의 엔비디아의 지배력을 고려할 때 주목할 만한 것이었다.
리더십
일리야 수츠케버는 공동 창립자이자 CEO(2025년 7월부터)로, 이전에 OpenAI를 공동 창립하고 AI 안전 노력을 이끌었다. 그의 OpenAI 퇴사는 올트먼 논란 이후 이루어졌으며 기술 미디어에서 널리 보도되었다.
다니엘 레비는 공동 창립자로, OpenAI에서 투자자이자 연구원으로 활동했다. 다니엘 그로스는 공동 창립자로, 애플에서 AI 노력을 이끌었고 2025년 7월에 메타로 떠났다.
영향과 평가
SSI의 빠른 평가 성장 - 2024년 9월 50억 달러에서 2025년 3월 300억 달러, 2025년 말 500억 달러로 증가 - 은 기초 연구에 초점을 맞춘 AI 스타트업에 대한 투자 급증이라는 광범위한 추세를 반영했다. 비평가들은 수익 없이 그러한 평가가 정당화될 수 있는지 의문을 제기했지만, 지지자들은 수츠케버의 경력과 초지능에 접근할 수 있는 연구자의 희소성을 지적했다.
SSI는 또한 업계 역학에 영향을 미쳤다. 성공과 철학은 주류 AI 담론에서 AI 안전에 대한 새로운 강조에 기여했으며, 채용 관행(예: LinkedIn 숨기기)은 다른 스타트업에서도 채택되었다. 이 회사가 메타의 인수 시도를 거절한 것은 최고 AI 연구자들이 잠재적 재정적 이익을 희생하더라도 독립을 유지할 의향이 있음을 보여주었다.