Safe Superintelligence Inc.(SSI)는 OpenAI의 전 최고 과학자였던 일리야 수츠케버, Apple의 AI 부문 책임자였던 다니엘 그로스, 그리고 투자자이자 OpenAI의 전 AI 연구원이었던 다니엘 레비가 설립한 미국의 인공지능 기업이다. 이 회사의 사명은 인간의 지능을 능가할 수 있는 컴퓨터 기반 에이전트인 초지능을 안전하게 개발하는 데 집중하는 것이다. SSI의 2024년 9월 시드 라운드는 10억 달러를 모금하여 역사상 가장 큰 시드 라운드가 되었으며, Sequoia Capital 및 a16z를 포함한 유명 벤처 캐피털 회사들이 참여했다.
이번 자금 조달 라운드는 SSI를 AI 안전 분야의 주요 플레이어로 자리매김하게 했으며, 창립자들의 평판과 상업화보다 안전에 대한 회사의 명시된 약속으로 인해 주목을 받았다. 자금은 컴퓨팅 자원 확장과 해당 분야 최고 인재 고용에 사용될 예정이었으며, 회사는 안전한 초지능 달성에 전념하는 연구원과 엔지니어 팀을 구축하는 것을 목표로 했다.
역사
일리야 수츠케버는 조직 내 격동의 시기를 겪은 후 2024년 5월 15일 OpenAI를 떠났다. 2023년 11월, 수츠케버는 커뮤니케이션과 신뢰에 대한 우려를 이유로 샘 알트만의 OpenAI CEO 해임에 찬성표를 던졌다. 그는 알트만이 일관된 거짓말 패턴을 보였다는 70페이지 분량의 문서를 작성했으며, OpenAI가 Nvidia와 경쟁하기 위해 걸프 협력 회의국 국부 펀드로부터 수십억 달러를 모색하는 등 원래의 안전 중심 초점보다 상업화를 우선시하고 있다는 우려를 표명했다. OpenAI 이사회가 Emmett Shear를 임시 CEO로 임명한 후, 수츠케버는 자신의 역할에 대해 공개적으로 사과하고 이사회 사퇴를 요구하는 서한에 서명했다.
2024년 6월 19일, 수츠케버는 X에서 다니엘 레비 및 다니엘 그로스와 함께 SSI 설립을 발표했다. 회사의 발표는 안전한 초지능에 대한 단일한 초점을 강조하며, 단기적인 상업적 압력으로부터 격리될 것이라고 밝혔다. 2024년 9월, SSI는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 투자자들로부터 시드 라운드에서 10억 달러를 모금했다고 공개했다.
2025년 3월, SSI는 Greenoaks Capital이 주도한 자금 조달 라운드에서 300억 달러의 가치 평가를 받았으며, 이는 2024년 9월의 이전 50억 달러 가치 평가의 6배에 해당한다. 수익이 전혀 없고 직원이 약 20명임에도 불구하고, 회사는 수츠케버의 평판과 안전 중심 사명으로 인해 상당한 투자자 관심을 끌었다. 2025년 4월, Google Cloud는 SSI 연구에 Tensor Processing Unit을 제공하는 파트너십을 발표했다.
2025년 상반기에 Meta는 SSI를 인수하려 시도했지만, 수츠케버는 제안을 거절했다. 2025년 7월, 공동 창업자 그로스는 회사를 떠나 Meta Superintelligence Labs에 합류했고, 수츠케버는 SSI의 CEO가 되었다. 2026년 7월 27일, SSI와 Nvidia는 SSI의 컴퓨팅을 한 자릿수 규모로 확장하기 위한 전략적 파트너십을 발표했으며, Nvidia의 50억 달러 투자가 계획되었다.
시드 라운드 세부 사항
2024년 9월 시드 라운드는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 투자자들로부터 10억 달러를 모금한 전례 없는 규모로 주목할 만했다. 이 금액은 Cognition의 1억 7,500만 달러 라운드 및 Inflection AI의 자금 조달과 같은 이전 기록적인 시드 라운드를 능가하며, 최고 연구원들이 이끄는 AI 벤처에 대한 투자자들의 강력한 수요를 시사했다. 이 라운드는 SSI의 가치를 50억 달러로 평가했으며, 자금은 컴퓨팅 확보를 가속화하고 세계적 수준의 연구 팀을 모집하기 위한 것이었다.
투자자들은 제품 개발과 안전을 균형 있게 추구하는 OpenAI, Anthropic, Google DeepMind와 같은 다른 AI 연구소와 대조되는 SSI의 안전에만 전념하는 차별화된 전략에 매료되었다. 수츠케버는 딥러닝 및 대규모 언어 모델의 돌파구에 기여한 OpenAI에서의 경력을 통해 이 벤처에 신뢰성을 부여했다. 이 라운드의 규모는 또한 Anthropic의 수십억 달러 규모 라운드와 xAI를 포함한 2024년 최고 AI 스타트업에 대한 막대한 자본 유입이라는 광범위한 추세를 반영했으며, a16z와 같은 회사들이 AI 포트폴리오를 적극적으로 확장하고 있었다.
회사 구조 및 사명
SSI는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀으로 운영된다. 회사 웹사이트는 이를 세계 최초의 직진 SSI 연구소로 설명하며, 관리 오버헤드나 제품 주기의 방해 없이 초지능으로 가는 직접적이고 타협 없는 경로를 암시한다. SSI 직원들은 LinkedIn에 소속을 기재하지 않도록 권장되며, 이는 2025년에 증가하는 직원 스카우트에 대응하기 위해 시행된 조치이다.
회사의 미국 본사는 팔로알토의 317 University Avenue에 있다. 2025년 2월, SSI는 텔아비브 미드타운의 144 Menachem Begin Road에 사무실을 임대하여 두 번째 연구 허브를 설립했다. 텔아비브 사무소는 이스라엘의 활기찬 AI 연구 커뮤니티를 활용하는 회사의 글로벌 인재 확보 전략을 반영한다.
기술적 초점
SSI의 연구 의제는 인간의 지능을 능가하면서도 그 목표가 인간의 가치와 일치하도록 보장하는 안전한 초지능 달성에 중점을 둔다. 회사는 수츠케버가 공개적으로 목소리를 낸 우려인 초지능 시스템과 관련된 존재론적 위험을 해결하는 것을 목표로 한다. SSI의 접근 방식은 머신러닝 및 컴퓨팅 확장의 발전을 통합하며, Tensor Processing Unit을 위한 Google Cloud 및 이후 확장된 컴퓨팅을 위한 Nvidia와의 파트너십을 활용한다.
2026년 현재 SSI는 공개 기술 논문이나 제품을 출시하지 않았지만, 연구 방향은 트랜스포머 아키텍처 및 확장 가능한 AI 훈련에 대한 수츠케버의 이전 작업에서 비롯된다. 회사는 신경망 해석 가능성, 정렬, 견고한 AI 시스템과 같은 분야에 능숙한 연구원 팀을 구축하여 기초 안전 연구에 기여할 수 있는 위치를 확보하고 있다.
자금 조달 및 가치 평가 타임라인
SSI의 재정적 궤적은 놀라웠다. 2024년 9월 시드 라운드는 수익이 없고 직원이 20명 미만인 회사로서는 기록적인 50억 달러의 가치 평가를 설정했다. 2025년 3월, Greenoaks Capital이 주도한 후속 라운드는 가치 평가를 300억 달러로 끌어올려 6개월 만에 6배 증가를 반영했다. 이러한 성장은 비슷한 규모의 젊은 AI 회사들을 능가했으며, 창립 팀에 대한 투자자 신뢰와 AI 안전의 전략적 중요성에 의해 주도되었다.
2025년 3월 라운드는 또한 a16z 및 Sequoia Capital과 같은 회사들이 고위험 고수익 벤처에 계속 투자하는 AI 자금 조달의 경쟁 역학을 부각시켰다. SSI의 가치 평가는 OpenAI 리더십 위기와 같은 사건 이후 안전 중심 접근 방식에 대한 시장의 프리미엄을 강조하며 많은 기존 AI 회사의 가치 평가를 초과했다. 2026년까지 Nvidia 파트너십은 50억 달러의 계획된 투자를 추가하여 SSI의 재정적 위치를 더욱 공고히 했다.
리더십 및 인력
일리야 수츠케버는 다니엘 그로스가 Meta Superintelligence Labs로 떠난 후 2025년 7월에 맡은 CEO 역할을 수행하고 있다. 수츠케버의 리더십은 주요 연구 이정표를 감독한 OpenAI에서의 10년 경력에 기반을 두고 있다. 세 번째 공동 창업자인 다니엘 레비는 OpenAI에서 AI 연구원으로 보낸 시간의 전문성을 활용하여 핵심 인물로 계속 활동하고 있다.
회사는 Google 및 Meta와 같은 기관의 최고 인재를 유치했지만, 소규모 팀 규모는 의도적인 선택성을 시사한다. 그로스의 이탈은 경쟁사로 이동한 주목할 만한 변화였지만, SSI는 수츠케버의 지휘 아래 연구 모멘텀을 유지했다. 직원 스카우트는 우려 사항이었으며 LinkedIn 정책을 촉발했지만, SSI의 사명은 안전에 전념하는 연구원들을 계속 끌어들이고 있다.
산업 영향
SSI의 시드 라운드는 AI 산업에 충격파를 보내며 안전 중심 벤처가 막대한 가치 평가를 받을 수 있음을 시사했다. 이는 Sequoia Capital 및 Andreessen Horowitz와 같은 투자자들이 AI 연구소에 대한 할당을 늘리는 등 자금 조달 패턴에 영향을 미쳤다. 이 라운드는 또한 Anthropic의 2023년 라운드 및 OpenAI의 성장에 자세히 설명된 대로 연속 라운드에서 수십억 달러를 모금한 Anthropic 및 OpenAI와 같은 경쟁사와의 비교를 촉발했다.
SSI의 존재는 AI 안전에 대한 논쟁을 강화하여 안전한 초지능이 심각한 기술적 과제라는 관점에 신뢰성을 부여했다. Nvidia 및 Google Cloud와의 파트너십은 AI 연구 발전의 중요한 제약인 컴퓨팅 인프라의 중요성을 입증한다. 2026년까지 SSI는 기술 및 정책 논의 모두에 영향을 미치며 초지능 경쟁의 핵심 플레이어로 자리매김하고 있다.
같이 보기
AI 안전, 인공 일반 지능, AI의 존재론적 위험, OpenAI, 초지능은 관련 주제이다. 회사의 초점은 인공지능 및 대규모 언어 모델에 대한 광범위한 연구와 일치한다.
참고 문헌
이 문서는 2026년 현재 공개적으로 보고된 정보와 회사 발표를 기반으로 한다.
외부 링크
Safe Superintelligence 공식 웹사이트.