Safe Superintelligence Inc.(SSI)는 2024년 6월에 설립된 이스라엘-미국 인공지능 회사로, OpenAI의 전 최고 과학자였던 일리야 수츠케버(Ilya Sutskever), Apple의 AI 노력 전 책임자였던 대니얼 그로스(Daniel Gross), 그리고 투자자이자 OpenAI의 전 AI 연구원이었던 대니얼 레비(Daniel Levy)가 공동 창업했습니다. 회사의 명시된 사명은 단기 상업적 압력으로부터 스스로를 격리하면서, 인간 지능을 능가할 수 있는 컴퓨터 기반 에이전트인 초지능(superintelligence)을 안전하게 개발하는 데 전적으로 집중하는 것입니다. SSI는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀으로 운영되며, 창업자들의 평판과 AI 안전에 대한 단일한 초점 덕분에 상당한 투자자의 관심을 끌었습니다.
설립 및 초기 역사
2024년 5월 15일, 일리야 수츠케버는 커뮤니케이션과 신뢰에 대한 우려를 이유로 CEO 샘 알트만을 해고하는 데 투표한 이사회 분쟁 이후 OpenAI를 떠났습니다. 수츠케버와 다른 사람들은 OpenAI가 상업화 기회를 선호하여 안전에 대한 원래의 초점을 소홀히 하고 있다고 믿었습니다. 2024년 6월 19일, 수츠케버는 X에서 대니얼 레비와 대니얼 그로스와 함께 SSI Inc.를 시작한다고 발표했으며, 목표는 초지능 AI를 안전하게 개발하는 것이었습니다. 회사의 웹사이트는 이를 "세계 최초의 직행 SSI 연구소"로 설명하며, "관리 오버헤드나 제품 주기"의 영향을 받지 않고 "단기 상업적 압력으로부터 격리"되도록 의도되었다고 밝힙니다.
10억 달러 자금 조달 라운드(2024년 9월)
2024년 9월, SSI는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 벤처 캐피털 회사들로부터 10억 달러를 모금했다고 밝혔습니다. 이 라운드는 SSI가 수익이 없고 당시 직원이 약 20명에 불과했음에도 불구하고 회사 가치를 50억 달러로 평가했습니다. 자금은 컴퓨팅 파워를 구축하고 인공지능 분야의 최고 인재를 고용하는 데 earmarked되었습니다. 이 라운드는 규모와 속도 면에서 주목할 만했으며, 수츠케버의 비전에 대한 강한 투자자 신뢰와 AI 안전 솔루션에 대한 증가하는 수요를 반영했습니다.
후속 자금 조달 및 가치 평가 성장
2025년 3월, SSI는 Greenoaks Capital이 주도한 자금 조달 라운드에서 300억 달러의 가치 평가에 도달했으며, 이는 2024년 9월의 이전 50억 달러 평가의 6배입니다. 이러한 급속한 증가는 회사가 여전히 수익을 창출하지 않고 약 20명의 직원을 유지하고 있음에도 발생했습니다. 투자자 관심은 주로 수츠케버가 선도적인 AI 연구원이라는 평판과 안전한 초지능 개발에 대한 회사의 독점적 초점에 의해 주도되었습니다. 이 평가는 SSI를 OpenAI 및 Anthropic과 같은 기존 주요 업체와 비교할 수 있는 가장 가치 있는 민간 AI 회사 중 하나로 만들었습니다.
파트너십 및 컴퓨팅 확장
2025년 4월, Google Cloud는 SSI의 연구를 위해 TPU(텐서 처리 장치)를 제공하는 파트너십을 발표하여 회사에 대규모 모델 훈련을 위한 특수 하드웨어에 대한 접근을 제공했습니다. 2025년 상반기에 Meta는 SSI를 인수하려 했지만 수츠케버가 회사를 독립적으로 유지하는 것을 선호하여 거절당했습니다. 2026년 7월 27일, SSI와 Nvidia는 SSI의 컴퓨팅을 "한 자릿수"로 확장하기 위한 전략적 파트너십을 발표했으며, 이 계약에는 Nvidia의 계획된 50억 달러 투자가 포함되었습니다. 이 파트너십은 SSI의 계산 자원을 크게 확장하여 대규모 언어 모델 및 기타 AI 시스템에 대한 더 야심찬 연구를 가능하게 하도록 설계되었습니다.
리더십 및 팀
일리야 수츠케버는 SSI의 CEO로 재직 중이며, 공동 창업자 대니얼 그로스가 2025년 7월 회사를 떠나 Meta Superintelligence Labs에 합류한 후 그 역할을 맡았습니다. 대니얼 레비는 공동 창업자이자 연구원으로 계속 참여하고 있습니다. 팀은 의도적으로 소규모로, 딥러닝 및 AI 안전에 대한 전문성을 기준으로 선발된 연구원과 엔지니어로 구성됩니다. 회사의 구조는 제품 개발보다 연구를 강조하며, 평평한 계층 구조와 분기별 결과보다 장기적 목표에 중점을 둡니다. 이러한 접근 방식은 OpenAI 및 Google DeepMind의 전 직원을 포함한 주요 AI 연구소의 인재를 끌어들였습니다.
사명 및 AI 안전 접근 방식
SSI의 사명은 인간 지능을 능가하는 AI 시스템인 초지능을 개발하면서 안전하고 인간의 가치와 일치하도록 보장하는 것입니다. 회사는 안전을 부차적 고려 사항이 아닌 주요 목표로 삼음으로써 다른 AI 연구소와 차별화됩니다. 그 접근 방식은 머신러닝 및 신경망의 연구를 활용하여 정렬 기술, 해석 가능성 및 견고한 AI 아키텍처에 대한 연구를 포함합니다. SSI의 창업자들은 고급 AI 개발 경쟁에는 실존적 위험을 방지하기 위한 엄격한 안전 조치가 수반되어야 한다고 주장해 왔습니다. 회사의 "직행" 철학은 상업적 제품으로 다각화하는 것을 피하고, 대신 모든 자원을 안전 중심 목표 달성에 전념하는 것을 의미합니다.
산업 맥락 및 평가
SSI의 설립은 생성형 AI 시스템의 빠른 배포와 잠재적 위험에 대한 논쟁에 이어 AI 안전에 대한 우려가 고조된 시기에 이루어졌습니다. 수츠케버의 OpenAI 이탈과 이후 SSI 설립은 기술 언론에서 널리 다루어졌으며, 많은 평론가들은 이를 안전 우려의 타당성 확인으로 보았습니다. 최소 수익에도 불구한 회사의 높은 평가는 안전한 AI 개발의 미래 중요성에 대한 베팅으로 여겨졌습니다. SSI는 OpenAI, Anthropic, Google DeepMind와 같은 주요 AI 연구소와 AI 안전 연구에 초점을 맞춘 스타트업을 포함한 경쟁 환경에서 운영됩니다. 클라우드 제공업체 및 하드웨어 회사와의 파트너십은 독립적인 초점을 유지하면서 연구 역량을 확장할 수 있는 위치를 확보했습니다.