Safe Superintelligence Inc.(SSI)는 2024년에 설립된 이스라엘-미국 인공지능 회사로, 초지능(superintelligence) - 인간의 지능을 능가할 수 있는 컴퓨터 기반 에이전트 - 을 안전하게 개발한다는 명시된 사명을 가지고 있다. 이 회사는 OpenAI의 전 최고 과학자였던 일리야 수츠케버(Ilya Sutskever), Apple의 AI 노력을 이끌었던 전 책임자 다니엘 그로스(Daniel Gross), 그리고 OpenAI의 전 AI 연구원이자 투자자인 다니엘 레비(Daniel Levy)에 의해 설립되었다. SSI는 캘리포니아주 팔로알토와 이스라엘 텔아비브에 분산된 소규모 팀으로 운영되며, 단기적인 상업적 압력과 관리 부담에서 벗어나는 것을 목표로 하는 "세계 최초의 직행 SSI 연구소"로 자리매김하고 있다.
설립 및 초기 역사
SSI의 기원은 OpenAI 내부의 갈등으로 거슬러 올라간다. 2024년 5월 15일, 일리야 수츠케버는 CEO 샘 알트만을 해임하는 데 투표한 이사회 분쟁 이후 OpenAI를 떠났으며, 의사소통과 신뢰에 대한 우려를 이유로 들었다. 수츠케버와 다른 이들은 OpenAI가 원래의 안전 중심 초점에서 상업화 기회를 선호하는 방향으로 전환하고 있다고 믿었다. 2024년 6월 19일, 수츠케버는 X에서 다니엘 레비 및 다니엘 그로스와 함께 SSI Inc.를 시작한다고 발표했으며, 초지능 AI를 안전하게 개발한다는 명시적인 목표를 내세웠다.
회사의 창립 팀은 상당한 기술 및 산업 경험을 보유하고 있었다. 수츠케버는 OpenAI에서 딥러닝 기술과 대규모 AI 시스템 개발의 핵심 인물이었다. 그로스는 이전에 Apple의 AI 노력을 이끌었으며 기술 투자와 스타트업 분야의 작업으로 잘 알려져 있었다. 레비는 OpenAI의 AI 연구원이자 기술 기업 투자자였다.
시드 펀딩 라운드
2024년 9월, SSI는 SV Angel, DST Global, Sequoia Capital, Andreessen Horowitz를 포함한 유명 벤처 캐피털 회사들로부터 시드 펀딩 라운드에서 1억 달러를 모금했다고 밝혔다. 이는 기술 산업 역사상 가장 큰 시드 라운드 중 하나였으며, AI 안전에 대한 투자자들의 강렬한 관심과 창립자들의 평판을 반영했다. 회사는 이 자금이 컴퓨팅 파워를 구축하고 해당 분야의 최고 인재를 고용하는 데 사용될 것이라고 밝혔다.
시드 라운드 당시 SSI는 약 20명의 직원이 있었고 아직 수익을 창출하지 않았다. 이 라운드 이후 회사의 가치는 약 50억 달러였다. 이 자금 조달은 규모뿐만 아니라 회사 설립 후 몇 달 내에 이루어진 속도 면에서도 주목할 만했다.
성장 및 가치 평가
2025년 3월, SSI는 Greenoaks Capital이 주도한 펀딩 라운드에서 300억 달러의 가치 평가에 도달했다. 이는 2024년 9월의 50억 달러 가치 평가에서 6배 증가한 수치였다. 여전히 약 20명의 직원과 수익이 없음에도 불구하고, 회사는 주로 AI 분야에서의 수츠케버의 평판과 안전한 초지능 개발에 대한 초점 덕분에 상당한 투자자 관심을 끌었다.
가치 평가의 급격한 증가는 특히 기초 연구와 안전에 초점을 맞춘 AI 기업에 대한 광범위한 시장의 열광을 반영했다. 투자자들은 단기적인 상업 제품 없이도 SSI의 사명의 장기적 잠재력에 기꺼이 베팅하는 것으로 보였다.
파트너십 및 기술 방향
2025년 4월, Google Cloud는 SSI의 연구에 TPU(텐서 처리 장치)를 제공하는 파트너십을 발표했다. 이 협력은 SSI에게 머신러닝 워크로드에 최적화된 특수 하드웨어에 대한 접근을 제공하여 대규모 AI 시스템 연구를 지원했다.
2026년 7월, SSI와 Nvidia는 SSI의 컴퓨팅 용량을 "한 자릿수" 확장하기 위한 전략적 파트너십을 발표했다. 이 계약에는 Nvidia의 SSI에 대한 50억 달러 투자 계획이 포함되었다. 이 파트너십은 초지능을 추구하는 데 중요한 요구 사항인 대규모 모델을 훈련하고 실행하는 SSI의 능력을 크게 향상시킬 것으로 예상되었다.
리더십 변화
2025년 상반기에 Meta가 SSI를 인수하려 시도했지만, 수츠케버가 이를 거절했다. 2025년 7월, 공동 창업자 다니엘 그로스는 고급 AI 연구에 초점을 맞춘 새로운 부서인 Meta Superintelligence Labs에 합류하기 위해 회사를 떠났다. 그로스의 이탈 이후, 수츠케버는 SSI의 CEO가 되어 현대 AI에서 가장 저명한 인물 중 한 명 아래에서 리더십을 통합했다.
리더십 전환은 OpenAI, Anthropic, Google DeepMind와 같은 주요 기업들이 모두 고급 AI 역량을 추구하는 AI 산업의 치열한 경쟁 시기에 이루어졌다. SSI의 안전에 대한 초점은 종종 신속한 배포와 상업화를 강조하는 이러한 많은 노력과 차별화되었다.
사명 및 접근 방식
SSI의 명시된 사명은 초지능을 안전하게 개발하는 것이며, 이는 인간의 지능을 능가하면서도 인간의 가치와 일치하도록 보장하는 AI 시스템을 만드는 것을 포함한다. 회사 웹사이트는 이를 "직행" 연구소로 설명하며, 제품 주기나 단기적인 상업적 압력에 방해받지 않고 이 목표에만 전념할 의도를 의미한다.
회사의 접근 방식은 고급 AI 시스템과 관련된 위험(존재론적 위험 포함)을 다루는 AI 안전 분야의 광범위한 연구에 기반을 두고 있다. SSI는 상세한 기술 방법을 공개적으로 밝히지 않았지만, 그 연구는 머신러닝, 대규모 언어 모델 및 관련 분야의 발전을 바탕으로 구축될 것으로 예상된다.
산업 맥락
SSI는 생성형 AI 시스템의 확산과 AI 인프라에 대한 투자 증가로 특징지어지는 AI의 급속한 발전 시기에 등장했다. 회사의 안전에 대한 초점은 초지능 AI의 잠재적 위험에 대해 연구자와 정책 입안자들이 제기한 우려와 공명했다.
SSI의 설립은 또한 안전과 상업화 사이의 균형에 대한 AI 커뮤니티 내의 지속적인 논쟁을 부각시켰다. OpenAI에서의 수츠케버의 이탈과 이후 SSI 설립은 배포 속도보다 안전을 우선시하는 것의 중요성에 대한 성명으로 널리 해석되었다.