Safe Superintelligence Inc.(SSI)는 2024년 6월에 설립된 이스라엘-미국 인공지능 기업으로, 인간의 지능을 능가할 수 있는 컴퓨터 기반 에이전트인 초지능을 안전하게 개발하는 것을 명시된 사명으로 삼고 있다. 이 회사는 OpenAI의 전 최고 과학자였던 일리야 수츠케버, Apple의 AI 부문 책임자였던 대니얼 그로스, 그리고 투자자이자 OpenAI의 전 AI 연구원이었던 대니얼 레비에 의해 설립되었다. SSI는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀으로 운영되며, "세계 최초의 직행 SSI 연구소"로 자리매김하고 단기적인 상업적 압력과 관리 오버헤드로부터 격리되는 것을 목표로 한다.
이 회사의 2024년 9월 시리즈 A 자금 조달 라운드는 50억 달러의 기업 가치로 10억 달러를 모금하여 인공지능 분야에서 가장 큰 초기 단계 조달 중 하나가 되었다. 이 라운드에는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 유명 벤처 캐피털 회사들이 참여했다. 2025년 3월까지 SSI의 기업 가치는 Greenoaks Capital이 주도한 자금 조달 라운드 이후 6배 증가한 300억 달러에 도달했으며, 회사는 약 20명의 직원을 두고 아직 수익을 창출하지 못한 상태였다.
설립 배경
SSI의 기원은 수츠케버가 최고 과학자이자 공동 창업자로 재직했던 OpenAI 내부의 긴장으로 거슬러 올라간다. 2023년 11월, 수츠케버는 커뮤니케이션과 신뢰에 대한 우려를 이유로 OpenAI CEO 샘 올트먼을 해임하는 이사회 투표에 참여했다. 이사회 분쟁은 올트먼의 복귀로 해결되었지만, 수츠케버와 다른 이들은 OpenAI가 상업화 기회를 선호하며 원래의 안전 중심 초점을 소홀히 하고 있다고 믿었다.
2024년 5월 15일, 수츠케버는 OpenAI를 떠났다. 2024년 6월 19일, 그는 X에 게시물을 통해 레비와 그로스와 함께 SSI Inc.의 설립을 발표했다. 이 회사의 창립 팀은 보완적인 전문성을 갖추고 있었다: 수츠케버의 딥러닝 연구 배경, 그로스의 Apple에서 AI 인프라 확장 경험, 그리고 레비의 OpenAI에서의 투자 및 연구 관점이 그것이다.
시리즈 A 자금 조달 라운드
2024년 9월, SSI는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 벤처 캐피털 회사들로부터 10억 달러를 모금했다고 밝혔다. 이 라운드는 회사 가치를 50억 달러로 평가했다. 자금은 컴퓨팅 파워 확장과 해당 분야 최고 인재 고용에 사용될 예정이었다.
이번 조달은 회사의 초기 단계에 비해 규모가 크다는 점에서 주목할 만했다. SSI는 제품도, 수익도, 소규모 팀만 있었지만, 투자자들은 주로 수츠케버의 평판과 안전한 초지능 개발에 대한 회사의 단일한 초점에 기반하여 상당한 자본을 투입했다. 이 자금은 SSI가 연구 인프라와 채용 노력을 구축하기 시작할 수 있게 했다.
가치 평가 성장 및 2025년 3월 라운드
2025년 3월, SSI는 Greenoaks Capital이 주도한 자금 조달 라운드에서 300억 달러의 기업 가치에 도달했다. 이는 2024년 9월의 50억 달러 평가에서 6배 증가한 수치였다. 이 라운드는 SSI가 여전히 수익이 없고 약 20명의 직원만 있는 상황에서 이루어졌다.
투자자 관심은 여러 요인에 의해 주도되었다: 대규모 언어 모델 개발의 핵심 인물로서 수츠케버의 실적, 인공지능 안전의 전략적 중요성 증가, 그리고 초지능 연구에만 전념하는 팀의 희소성. 이 평가는 SSI를 직원 수 대비 가장 가치 있는 민간 AI 기업 중 하나로 만들었다.
전략적 파트너십
2025년 4월, Google Cloud는 SSI의 연구를 위해 텐서 처리 장치(TPU)를 제공하는 파트너십을 발표했다. 이 협력은 SSI가 대규모 AI 모델을 훈련하고 실행하기 위한 특수 하드웨어에 접근할 수 있게 하여 자체 컴퓨팅 투자를 보완했다.
2026년 7월 27일, SSI와 Nvidia는 SSI의 컴퓨팅 용량을 "한 자릿수" 확장하는 것을 목표로 하는 전략적 파트너십을 발표했다. 이 계약에는 Nvidia가 SSI에 50억 달러를 투자할 계획이 포함되었다. 이 파트너십은 SSI의 안전 연구와 초지능 개발 노력에 사용 가능한 계산 자원을 실질적으로 증가시키도록 설계되었다.
리더십 변경
2025년 상반기에 Meta는 SSI를 인수하려 했지만 수츠케버에게 거절당했다. 2025년 7월, 공동 창업자 대니얼 그로스는 고급 AI 연구에 초점을 맞춘 새로운 부서인 Meta Superintelligence Labs에 합류하기 위해 회사를 떠났다. 그로스의 이탈 이후, 수츠케버는 SSI의 단독 CEO가 되어 남은 공동 창업자 아래에서 리더십을 통합했다.
이 리더십 전환은 주요 기술 기업들이 최고 AI 인재를 두고 경쟁하고 전용 초지능 연구 부서를 설립하려는 더 넓은 산업 역학을 반영했다. 그로스의 Meta 이동은 이 분야 전문성에 대한 치열한 경쟁을 강조했다.
연구 접근 방식 및 철학
SSI의 접근 방식은 시장 출시 속도보다 안전을 명시적으로 우선시한다는 점에서 많은 AI 기업과 다르다. 회사 웹사이트는 "관리 오버헤드나 제품 주기"의 영향을 받지 않고 "단기적인 상업적 압력으로부터 격리"되는 것을 의도한다고 밝히고 있다. 이 철학은 연구자들이 초지능 시스템이 인간 가치와 일치하도록 보장하는 방법에 대한 근본적인 질문에 집중할 수 있게 한다.
회사의 소규모 팀 구조는 의도적인 것으로, 대규모 운영보다 깊은 협력을 선호한다. SSI는 연구의 구체적인 기술적 세부 사항을 공개적으로 밝히지 않았지만, 초점 영역에는 AI 안전, 인공 일반 지능, 그리고 AI로 인한 실존적 위험 완화가 포함된다.
산업 맥락
SSI는 생성형 AI의 급속한 발전과 AI 연구소 간 경쟁이 심화되는 시기에 등장했다. OpenAI, Anthropic, Google DeepMind를 포함한 주요 기업들은 점점 더 강력한 모델을 추구해 왔으며, 안전과 정렬에 대한 논쟁은 두드러지게 되었다.
수츠케버의 OpenAI 이탈과 이후 SSI 설립은 AI 연구 커뮤니티 내에서 능력 개발과 안전 고려 사항의 균형을 맞추는 방법에 대한 분열을 신호했다. 최소한의 수익에도 불구하고 SSI의 높은 평가는 안전한 초지능 연구의 장기적 중요성에 대한 투자자 신뢰를 입증했다.
Google Cloud와 Nvidia를 포함한 주요 클라우드 및 하드웨어 제공업체와의 파트너십은 SSI가 최첨단 계산 자원에 접근할 수 있게 했다. 이러한 관계는 더 큰 기술 기업의 수익 흐름이 없는 연구 중심 조직에게 중요했다.