Safe Superintelligence Inc.(SSI)는 인간의 지능을 능가할 수 있는 컴퓨터 기반 에이전트인 초지능의 안전한 개발에 전념하는 미국 인공지능 기업이다. 2024년 6월, 전 OpenAI 최고 과학자였던 일리야 수츠케버, 전 Apple AI 책임자였던 다니엘 그로스, 투자자이자 전 OpenAI AI 연구원이었던 다니엘 레비가 공동 설립했으며, 수익을 창출하지 않음에도 불구하고 상당한 투자자들의 관심을 끌었다. 2025년 3월, SSI는 Lightspeed Venture Partners가 주도한 30억 달러의 기업 가치로 20억 달러 규모의 자금 조달을 완료했으며, 이는 2024년 9월의 이전 기업 가치 50억 달러에서 6배 증가한 수치이다.
이 회사의 사명은 단기적인 상업적 압력과 관리 부담에서 스스로를 격리하는 '직행(straight-shot)' 접근 방식의 초지능 개발을 강조한다. 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀을 갖춘 SSI는 AI 안전 논쟁의 중심지가 되었으며, 주요 기술 기업들로부터 투자와 인수 제안을 모두 받고 있다.
설립 배경
OpenAI의 공동 설립자였던 일리야 수츠케버는 샘 알트만의 CEO 해임과 복귀를 포함한 격동의 시기를 겪은 후 2024년 5월 15일에 조직을 떠났다. 2023년 11월, 수츠케버는 의사소통과 신뢰에 대한 우려를 이유로 알트만 해임에 투표했으며, '일관된 거짓말 패턴'을 주장하는 70페이지 분량의 문서를 작성했다. 수츠케버와 다른 이들은 OpenAI가 Nvidia와 경쟁하기 위해 걸프 협력 회의(GCC) 국부 펀드로부터 수십억 달러를 모색하는 등 안전보다 상업화를 우선시하고 있다고 믿었다. 이사회가 에밋 셰어를 임시 CEO로 임명한 후, 수츠케버는 공개적으로 사과하고 이사회 사퇴를 요구하는 직원들의 목소리에 동참했다.
2024년 6월 19일, 수츠케버는 X에서 다니엘 레비와 다니엘 그로스와 함께 SSI 설립을 발표했다. 그로스는 이전에 Apple에서 AI 노력을 주도했으며, 레비는 투자자이자 OpenAI의 AI 연구원으로서의 경험을 가져왔다. 이 회사의 설립은 다른 주요 연구소들의 상업적 궤적과는 구별되는, 안전 우선 AI 개발에 대한 새로운 초점을 알렸다.
자금 조달 역사
2024년 9월, SSI는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 벤처 캐피탈 회사들로부터 10억 달러를 모금했다. 이 초기 라운드는 회사 가치를 50억 달러로 평가했으며, 컴퓨팅 파워 구축과 최고 인재 고용을 위한 것이었다. 2025년 3월, Lightspeed가 주도한 라운드는 기업 가치를 30억 달러로 끌어올렸으며, 이는 6개월 만에 6배 증가한 수치이다. 직원이 약 20명에 불과하고 수익이 없음에도 불구하고, 투자자들의 열기는 수츠케버의 평판과 회사의 안전 중심 사명에 의해 주도되었다.
이 자금 조달 라운드는 AI 투자의 광범위한 급증 속에서 이루어졌으며, Anthropic과 같은 경쟁사들이 2023년과 2024년에 수십억 달러를 모금하고 Figure AI 및 Mistral과 같은 다른 스타트업들이 상당한 라운드를 확보하는 가운데 발생했다. 최소 인력으로 높은 기업 가치를 주도할 수 있었던 SSI의 능력은 AI 안전 전문성에 대한 프리미엄을 강조했다.
전략적 파트너십 및 컴퓨팅
2025년 4월, Google Cloud는 SSI 연구를 위한 Tensor Processing Units(TPU) 제공 파트너십을 발표하여, 대규모 모델 훈련을 위한 특수 하드웨어에 대한 접근 권한을 회사에 부여했다. 이어 2026년 7월 27일에 발표된 Nvidia와의 더 중요한 파트너십이 뒤따랐다. Nvidia 거래에는 계획된 50억 달러 투자가 포함되었으며, SSI의 컴퓨팅을 '한 자릿수' 규모로 확장하여 안전 프로토콜을 유지하면서 전례 없는 규모로 모델을 훈련할 수 있는 위치에 놓는 것을 목표로 했다.
이러한 파트너십은 SSI가 자체 데이터 센터를 구축하는 대신 외부 인프라를 활용하는 전략을 반영하며, 이는 Google Cloud 및 Amazon Web Services와 함께한 Anthropic과 같은 다른 AI 연구소들이 취한 접근 방식과 유사하다. 특히 Nvidia 투자는 회사의 초기 단계에도 불구하고 SSI의 장기적 잠재력에 대한 신뢰를 시사했다.
인수 시도 및 리더십 변화
2025년 상반기, Meta Platforms는 SSI를 인수하려 시도했지만, 수츠케버는 회사의 독립성을 유지하며 제안을 거절했다. 2025년 7월, 공동 설립자 다니엘 그로스는 SSI를 떠나 고급 AI 연구에 초점을 맞춘 새로운 부서인 Meta Superintelligence Labs에 합류했다. 그로스의 이탈 이후, 수츠케버는 SSI의 CEO가 되어 리더십을 강화했다.
Meta의 인수 시도는 주요 기술 기업들이 AI 역량을 강화하려는 가운데 AI 안전 인재의 전략적 중요성을 부각시켰다. 그로스의 Meta 이동과 다른 고위 인사 영입은 AI 연구자들의 경쟁 구도를 강조했다.
회사 문화 및 운영
SSI의 웹사이트는 이 회사를 '세계 최초의 직행 SSI 연구소'로 설명하며, '관리 부담이나 제품 주기'의 영향을 받지 않고 단기적인 상업적 압력으로부터 격리된 곳으로 의도되었다고 밝힌다. 직원들은 2025년에 증가한 인재 스카우트로 인해 LinkedIn에 소속을 기재하지 않도록 권장된다. 이 회사는 캘리포니아주 팔로알토의 317 University Avenue에 있는 미국 본사와 2025년 2월에 임대한 이스라엘 텔아비브 미드타운의 144 Menachem Begin Road 사무실에 분산된 소규모 집중 팀을 유지하고 있다.
이 문화는 제품 개발보다 연구를 강조하며, 초지능을 안전하게 달성하기 위한 장기적 시야를 가지고 있다. 다른 AI 연구소에 비해 작은 팀 규모는 민첩성과 긴밀한 연구 환경을 가능하게 하지만, 확장성에 대한 의문도 제기한다.
영향 및 평가
20억 달러 규모의 자금 조달 라운드와 이후의 파트너십은 SSI를 Anthropic 및 학계 기관과 같은 조직과 함께 AI 안전 분야의 주요 플레이어로 자리매김하게 했다. 수익이 없음에도 불구한 회사의 기업 가치는 안전한 초지능이 산업을 변화시킬 잠재력에 대한 투자자들의 믿음을 반영한다. 그러나 일부 비평가들은 안전 중심 접근 방식이 더 공격적인 상업 연구소와 경쟁할 수 있는지 의문을 제기하며, 그로스의 이탈은 내부 안정성에 대한 우려를 불러일으켰다.
SSI의 영향력은 정책 논의로 확장되며, 그 존재는 실존적 위험 완화를 우선시하는 AI 개발에 대한 수요를 부각시킨다. 주요 클라우드 제공업체 및 칩 제조업체와의 파트너십은 안전 우선 정신을 유지하면서 확장에 대한 실용적인 접근 방식을 시사한다.