Safe Superintelligence Inc.(SSI)는 2024년 6월 일리야 수츠케버(Ilya Sutskever), 다니엘 그로스(Daniel Gross), 다니엘 레비(Daniel Levy)가 설립한 이스라엘-미국 인공지능 기업이다. 이 회사는 인간의 지능을 능가할 수 있는 컴퓨터 기반 에이전트인 초지능(superintelligence) 개발에만 전념하면서 안전 조치를 최우선으로 한다. SSI는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀으로 운영되며, 아직 수익을 창출하지 못했음에도 불구하고 상당한 투자를 유치했다.
이 회사는 공동 창업자 수츠케버가 이사회 분쟁에 연루되었던 OpenAI의 혼란기에 등장했다. SSI의 창립 팀은 주요 AI 및 기술 조직의 전문성을 결합했으며, 수츠케버는 OpenAI의 전 최고 과학자, 그로스는 Apple의 AI 부문을 이끌었고, 레비는 투자자이자 전 OpenAI 연구원으로서의 경험을 가져왔다.
설립 및 사명
2024년 5월 15일, 일리야 수츠케버는 커뮤니케이션과 신뢰에 대한 우려 속에서 CEO 샘 알트만을 해임하는 데 투표한 이사회 분쟁 이후 OpenAI를 떠났다. 수츠케버와 동료들은 OpenAI가 상업화 기회를 선호하면서 원래의 안전 중심 목표를 소홀히 하고 있다고 믿었다. 2024년 6월 19일, 수츠케버는 X에서 다니엘 레비와 다니엘 그로스와 함께 SSI Inc.의 설립을 발표했다.
SSI의 명시된 사명은 "세계 최초의 직진 SSI 연구소"가 되는 것이며, "관리 오버헤드나 제품 주기"의 영향을 받지 않고 "단기 상업적 압력으로부터 격리"되도록 설계되었다. 회사의 구조는 의도적으로 전통적인 제품 개발 일정을 피하여 연구자들이 인공지능 분야의 장기적인 안전 및 능력 연구에 집중할 수 있게 한다.
2024년 9월 자금 조달 라운드
2024년 9월, SSI는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 유명 벤처 캐피털 회사로부터 10억 달러를 모금했다고 밝혔다. 이 초기 자금은 컴퓨팅 파워 확장과 해당 분야 최고 인재 고용에 사용될 예정이었다. 이 라운드에서 회사 가치는 약 50억 달러로 평가되었으며, 이는 창립 팀의 자격과 AI 안전에 대한 회사의 집중된 접근 방식에 대한 강한 투자자 신뢰를 반영한다.
이 자금 조달은 SSI가 수익이 없고 소규모 팀만 있었음에도 불구하고 주목을 받았지만, 투자자들은 딥러닝 분야의 선도적 연구자이자 현대 대규모 언어 모델 개발의 핵심 인물로서의 수츠케버의 평판에 끌렸다.
2025년 3월 가치 평가 이정표
2025년 3월, SSI는 Greenoaks Capital이 주도한 자금 조달 라운드에서 300억 달러의 가치 평가에 도달했다. 이는 2024년 9월 가치 평가 대비 6배 증가한 수치이다. 약 20명의 직원과 수익이 없음에도 불구하고, 이 회사는 주로 수츠케버의 평판과 안전한 초지능 개발에 대한 단일한 초점 덕분에 상당한 투자자 관심을 끌었다.
이 가치 평가는 SSI를 Anthropic 및 Google DeepMind와 같은 기존 업체와 견줄 만한 가장 가치 있는 민간 AI 기업 중 하나로 만들었다. 투자자들은 고급 AI 시스템의 위험에 대한 우려가 커지는 시장에서 안전 우선 접근 방식을 차별화 요소로 보았다.
전략적 파트너십 및 성장
2025년 4월, Google Cloud는 SSI 연구를 위한 텐서 처리 장치(TPU)를 제공하는 파트너십을 발표했다. 이 협력을 통해 SSI는 자체 컴퓨팅 투자를 보완하는 고급 모델 훈련용 특수 하드웨어에 접근할 수 있게 되었다.
2025년 상반기 동안 Meta가 SSI를 인수하려 시도했다고 알려졌지만, 수츠케버는 이 접근을 거절했다. 2025년 7월, 공동 창업자 다니엘 그로스가 회사를 떠나 Meta Superintelligence Labs에 합류하면서 수츠케버가 SSI의 유일한 CEO로 남게 되었다. 이 이탈은 회사가 계속해서 투자와 파트너십을 유치함에 따라 회사의 궤적에 영향을 미치지 않는 것으로 보였다.
Nvidia 파트너십 및 컴퓨팅 확장
2026년 7월 27일, SSI와 Nvidia는 SSI의 컴퓨팅 용량을 "한 자릿수" 확장하기 위한 전략적 파트너십을 발표했다. 이 계약에는 Nvidia의 SSI에 대한 50억 달러 규모의 투자 계획이 포함되어 있으며, 이는 AI 안전 중심 연구에 대한 가장 큰 기업 투자 중 하나를 대표한다. 이 파트너십은 초지능 시스템 훈련에 필요한 대규모 컴퓨팅 자원을 SSI에 제공하도록 설계되었다.
이 협력을 통해 SSI는 안전에 대한 뚜렷한 초점을 유지하면서 원시 컴퓨팅 파워 측면에서 주요 AI 연구소와 경쟁할 수 있는 위치에 놓였다. Nvidia의 투자는 또한 SSI의 기술적 접근 방식과 장기적 생존 가능성에 대한 신뢰를 시사했다.
팀 및 연구 접근 방식
SSI의 소규모 팀에는 OpenAI, DeepMind 및 기타 최고 연구소의 전 구성원을 포함한 주요 AI 조직의 연구원과 엔지니어가 포함되어 있다. 회사의 연구 접근 방식은 안전을 사후 고려 사항이 아닌 주요 설계 제약 조건으로 강조하며, 초지능 시스템이 인간의 가치와 일치하도록 보장하는 방법 개발에 중점을 둔다.
회사의 구조는 의도적으로 간결하며, 상업적 AI 기업의 전형적인 대규모 제품 개발 팀을 피한다. 이를 통해 연구자들은 상업적 압력 없이 기계 학습 및 신경망의 근본적인 질문을 추구할 수 있다.