Safe Superintelligence Inc. (SSI)는 2024년 6월에 설립된 AI 연구 회사로, OpenAI의 전 최고 과학자이자 공동 창업자인 Ilya Sutskever가 Daniel Gross 및 Daniel Levy와 함께 설립했습니다. 이 회사는 안전한 Superintelligence를 구축하는 단일 목표만을 추구하며, 다른 제품은 없고, 그 목표에 도달하기 전에는 중간 상용 시스템을 출시하지 않을 것이라고 밝히고 있습니다.
설립
Sutskever는 2023년 11월에 Sam Altman을 CEO에서 일시적으로 해임한 OpenAI 이사회 위기에서 중심적인 역할을 한 지 몇 달 후인 2024년 5월에 OpenAI를 떠났습니다. 그는 이전에 미래의 초인적 AI 시스템을 정렬하는 데 초점을 맞춘 OpenAI의 Superalignment 팀을 이끌었는데, 이 팀은 그와 공동 책임자인 Jan Leike가 떠난 후 사실상 해체되었습니다. SSI는 팔로알토(캘리포니아)와 텔아비브(이스라엘)에 사무소를 두고 발표되었으며, 이는 Sutskever와 Gross의 각각의 배경을 반영한 것이었고, 회사는 광범위하게 인력을 늘리기보다는 의도적으로 작고 컴팩트한 기술 팀을 구성하기 시작했다고 밝혔습니다.
구조와 자금
SSI는 AI 연구의 최전선에서 운영되는 회사로서 이례적인 공개적 입장을 채택했습니다. 즉, 단기적인 상업적 및 제품 압력으로부터 격리된 상태를 유지하고, OpenAI, Anthropic, Google DeepMind 같은 연구소를 형성하는 제품 출시, 벤치마크 경쟁, 분기별 수익 목표의 순환을 피하겠다고 선언했습니다. 단기 제품을 배제했음에도 불구하고 SSI는 상당한 벤처 자금을 조달했으며, 2024년 약 10억 달러 규모로 보고된 라운드와 2025년까지의 추가 자금으로 인해 가치 평가가 수백억 달러에 이르렀습니다. 이는 공개된 제품, 벤치마크 결과, 매출이 없는 회사로서는 놀라운 일입니다. 전 Y Combinator 파트너이자 AI 투자자인 Daniel Gross는 2025년에 회사의 운영 역할을 떠나 메타의 초지능 노력에 합류했으며, Sutskever는 CEO로 계속 재직했습니다.
평가
안전과 능력을 별도로 추구하는 대신 단일 연구 의제에서 함께 추구해야 한다는 SSI의 전제는 관심과 회의론을 동시에 불러일으켰습니다. 지지자들은 이를 AI 정렬 연구에서 탐구된 아이디어의 자연스러운 확장이자, 더 작고 집중된 팀이 다른 연구소의 상업적 의무가 몰아내는 진전을 이룰 수 있다는 도박으로 보았습니다. 회의론자들은 어떤 연구소가 우려의 대상이 되는 시스템 자체를 구축하기 전에 실존적 위험을 해결했다고 신뢰할 수 있게 주장할 수 있는지 의문을 제기했으며, 공개된 제품이나 벤치마크가 없는 상태에서 SSI의 기록적인 가치 평가가 회사의 명시된 사명만큼이나 투자자들의 Sutskever 개인에 대한 신뢰를 반영한다고 지적했습니다. 2025년 현재 SSI는 공개 모델, 논문 또는 벤치마크 결과를 출시하지 않았습니다.