Safe Superintelligence Inc. (SSI) es una empresa israelí-estadounidense de inteligencia artificial fundada en 2024 con la misión declarada de desarrollar superinteligencia de forma segura: un agente basado en computadoras capaz de superar la inteligencia humana. La empresa fue establecida por Ilya Sutskever, ex científico jefe de OpenAI; Daniel Gross, ex jefe de los esfuerzos de IA de Apple; y Daniel Levy, inversor y ex investigador de IA en OpenAI. SSI opera con un equipo pequeño dividido entre Palo Alto, California, y Tel Aviv, Israel, y se posiciona como el "primer laboratorio SSI de trayectoria directa del mundo", con el objetivo de estar aislado de las presiones comerciales a corto plazo y de la sobrecarga de gestión.
Fundación e Historia Temprana
Los orígenes de SSI se remontan a conflictos internos en OpenAI. El 15 de mayo de 2024, Ilya Sutskever dejó OpenAI tras una disputa en la junta directiva en la que votó para destituir al CEO Sam Altman, citando preocupaciones sobre comunicación y confianza. Sutskever y otros creían que OpenAI se estaba alejando de su enfoque original en la seguridad en favor de oportunidades de comercialización. El 19 de junio de 2024, Sutskever anunció el lanzamiento de SSI, con la misión de desarrollar IA superinteligente de forma segura.
El equipo fundador de la empresa aportó una experiencia técnica e industrial sustancial. Sutskever había sido una figura clave en el desarrollo de técnicas de aprendizaje profundo y sistemas de IA a gran escala en OpenAI. Gross había liderado previamente los esfuerzos de IA en Apple y era conocido por su trabajo en inversión tecnológica y startups. Levy había sido investigador de IA en OpenAI e inversor en empresas tecnológicas.
Ronda de Financiación Semilla
En septiembre de 2024, SSI reveló que había recaudado 1.000 millones de dólares en una ronda de financiación semilla de destacadas firmas de capital de riesgo, incluyendo SV Angel, DST Global y Sequoia Capital. Esta ronda valoró a la empresa en 5.000 millones de dólares, lo que representó un aumento significativo para una empresa en etapa temprana.
Asociaciones y Dirección Técnica
En abril de 2025, Google Cloud anunció una asociación para proporcionar TPU (Unidades de Procesamiento Tensorial) para la investigación de SSI. Esta colaboración brindó a SSI acceso a hardware especializado optimizado para cargas de trabajo de aprendizaje automático, apoyando su investigación en sistemas de IA a gran escala.
Cambios en el Liderazgo
En la primera mitad de 2025, Meta intentó adquirir SSI, pero las negociaciones no llegaron a buen término. SSI continuó operando de forma independiente, manteniendo su enfoque en la seguridad de la IA.
Misión y Enfoque
La misión declarada de SSI es desarrollar superinteligencia de forma segura, un objetivo que implica crear sistemas de IA que superen la inteligencia humana mientras se asegura que permanezcan alineados con los valores humanos. El sitio web de la empresa describe su enfoque como "trayectoria directa", lo que significa que no se desvía hacia productos comerciales a corto plazo. SSI no ha divulgado públicamente métodos técnicos detallados, pero se espera que su investigación se base en avances en aprendizaje automático, modelos de lenguaje grandes y áreas relacionadas.
Contexto de la Industria
SSI surgió durante un período de avance rápido en IA, marcado por la proliferación de sistemas de IA generativa y una creciente inversión en infraestructura de IA. El enfoque de la empresa en la seguridad resonó con las preocupaciones planteadas por investigadores y responsables políticos sobre los riesgos potenciales de la IA superinteligente.
La fundación de SSI también destacó los debates en curso dentro de la comunidad de IA sobre el equilibrio entre seguridad y comercialización. La salida de Sutskever de OpenAI y la posterior fundación de SSI fueron ampliamente vistas como una declaración sobre la importancia de priorizar la seguridad sobre la velocidad de implementación.