El debate sobre la superinteligencia de la IA es un período de intenso discurso de 2023 a 2025 sobre la posibilidad y las implicaciones de crear una superinteligencia: un agente hipotético con una inteligencia que supera con creces a las mentes humanas más dotadas. El filósofo Nick Bostrom definió la superinteligencia en su libro de 2014 Superintelligence como «cualquier intelecto que exceda en gran medida el rendimiento cognitivo de los humanos en prácticamente todos los dominios de interés». El debate se centra en si la superinteligencia artificial (ASI, por sus siglas en inglés) surgirá mediante el progreso continuo en la inteligencia artificial, qué riesgos plantea y cómo debería responder la sociedad. Si bien la superinteligencia biológica sigue siendo una alternativa teórica, la mayor parte de la atención se centra en la ASI basada en máquinas, impulsada por los rápidos avances en los modelos de lenguaje grandes y tecnologías relacionadas.
Definición de superinteligencia
El concepto de superinteligencia se basa en la idea de que la inteligencia no es un techo fijo, sino un espectro. La definición de Bostrom enfatiza la superioridad amplia en todas las tareas cognitivas, no solo en puntos de referencia limitados. Esto distingue a la ASI de los sistemas de IA especializados que sobresalen en el ajedrez o la traducción de idiomas, pero carecen de razonamiento general. El término ahora se usa casi exclusivamente en discusiones sobre inteligencia artificial, aunque la superinteligencia biológica - lograda mediante ingeniería genética, cría selectiva u organización colectiva - ha sido explorada por escritores como Carl Sagan y Gerald Crabtree.
David Chalmers, un filósofo, sostiene que la AGI es una vía muy probable hacia la ASI. Su argumento se basa en tres afirmaciones: que la IA puede alcanzar una equivalencia a nivel humano, que puede extenderse más allá del rendimiento humano y que puede amplificarse para dominar tareas arbitrarias. Señala que el cerebro humano es un sistema mecánico que evolucionó biológicamente, lo que hace plausible que los ingenieros puedan replicarlo con materiales sintéticos, quizás usando algoritmos evolutivos. Una vez que la IA alcanza la equivalencia humana, las nuevas tecnologías pueden ayudar a diseñar mejoras, acelerando el progreso.
Auto-mejora recursiva y explosión de inteligencia
Un mecanismo central teorizado para producir superinteligencia es la auto-mejora recursiva. En este escenario, un sistema de IA mejora iterativamente su propia inteligencia, volviéndose más eficiente para mejorarse a sí mismo con cada ciclo. Este bucle de retroalimentación podría conducir a una explosión de inteligencia, donde la IA supera rápidamente todos los límites cognitivos humanos. Los críticos argumentan que la auto-mejora recursiva puede encontrar rendimientos decrecientes, ya que cada mejora requiere recursos computacionales crecientes, pero los defensores señalan que una IA capaz de rediseñar su propia arquitectura podría superar tales restricciones.
El hardware informático ya ofrece ventajas sobre los cerebros biológicos. Bostrom señala que las neuronas biológicas operan a aproximadamente 200 Hz, mientras que los microprocesadores modernos funcionan a unos 2 GHz, una diferencia de siete órdenes de magnitud. Las neuronas transmiten señales a no más de 120 m/s, mientras que los núcleos electrónicos pueden comunicarse ópticamente a la velocidad de la luz. Así, una mente humana emulada ejecutándose en hardware más rápido podría pensar millones de veces más rápido que un humano biológico, dominando tareas que requieren rapidez o largas secuencias de acciones. Las computadoras también son modulares, lo que permite que el tamaño y la capacidad se escalen más allá de los límites físicos de cráneos y columnas vertebrales, lo que potencialmente permite una superinteligencia colectiva mediante redes coordinadas.
Formas de superinteligencia artificial
La IA superinteligente podría adoptar varias formas. Una superinteligencia de velocidad sería un razonador similar al humano que opera a velocidades enormemente aceleradas. Una superinteligencia de calidad poseería capacidades cognitivas cualitativamente superiores a las humanas, análogas a cómo los humanos superan a los chimpancés en la planificación a largo plazo y el uso del lenguaje. Bostrom también considera la inteligencia colectiva, donde un gran número de sistemas de razonamiento separados se coordinan para actuar como un agregado con capacidades mucho mayores que cualquier subagente. Estas formas no son mutuamente excluyentes; una ASI futura podría combinar velocidad, calidad y coordinación colectiva.
Las ventajas de modularidad y velocidad se aplican a los sistemas artificiales, pero no necesariamente a los biológicos. Las restricciones fisiológicas limitan el tamaño y la velocidad de los cerebros biológicos, lo que hace que la superinteligencia biológica sea menos factible. Los escritores, por lo tanto, dedican más atención a los escenarios de ASI, aunque algunos exploran alternativas biológicas como la cría selectiva o los nootrópicos.
Hipótesis de superinteligencia biológica
Aunque el debate se centra en la IA, algunos científicos han considerado vías biológicas. Carl Sagan sugirió que las cesáreas y la fertilización in vitro podrían permitir a los humanos evolucionar cabezas más grandes, mejorando la inteligencia mediante la selección natural. Por el contrario, Gerald Crabtree argumentó que la disminución de la presión selectiva está reduciendo lentamente la inteligencia humana a lo largo de los siglos, sin consenso científico sobre ninguna de las posibilidades. Bostrom discute el diagnóstico genético preimplantacional para seleccionar embriones con un coeficiente intelectual más alto, estimando ganancias potenciales de 4 puntos al seleccionar uno de dos embriones y hasta 24,3 puntos de uno entre 1.000, con una selección iterativa a lo largo de generaciones que posiblemente produzca mejoras de un orden de magnitud.
La inteligencia colectiva también podría construirse reorganizando las sociedades humanas. Algunos argumentan que Internet, la economía o la civilización funcionan como un cerebro global, con capacidades que exceden a los agentes individuales. Los mercados de predicción se citan como ejemplos de inteligencia colectiva funcional, asumiendo que no se usan algoritmos para informar las decisiones. La mejora directa mediante ingeniería genética o nootrópicos sigue siendo especulativa y éticamente controvertida.
Riesgo existencial y opiniones de expertos
La mayoría de los expertos en IA creen que crear una superinteligencia artificial planteará un riesgo existencial sustancial. Los riesgos incluyen la pérdida de control humano, consecuencias no deseadas de optimizar objetivos limitados y la posibilidad de que una ASI persiga objetivos que entren en conflicto con el bienestar humano. Una minoría argumenta que la superinteligencia está demasiado lejos para justificar una preocupación inmediata, o que otras amenazas como la guerra nuclear o las pandemias son más apremiantes. Esta minoría incluye a investigadores que ven la IA actual como limitada a tareas específicas, sin un camino claro hacia la inteligencia general.
La preocupación por la ASI ha crecido dramáticamente. En octubre de 2025, cientos de figuras públicas, incluidos expertos en IA, laureados con el Premio Nobel y funcionarios de seguridad nacional, firmaron una declaración pidiendo una prohibición del desarrollo de la superinteligencia. Esto trazó paralelismos con las prohibiciones de armas biológicas y minas antipersonal. La declaración surgió en medio de un debate más amplio sobre la regulación de la IA, incluido el debate sobre la SB-1047 de California sobre los requisitos de seguridad a nivel estatal. Encuestas de 2025 encontraron que grandes mayorías en Estados Unidos y Gran Bretaña se oponen al desarrollo de la ASI, reflejando una inquietud pública.
Desacuerdos sobre el cronograma
El debate incluye desacuerdos agudos sobre cuándo podría llegar la ASI. Los optimistas, a menudo asociados con OpenAI y otros laboratorios, sugieren que la inteligencia artificial general podría surgir en décadas, con la superinteligencia siguiendo poco después. Los pesimistas argumentan que el aprendizaje automático actual, incluidos los transformadores y los modelos de lenguaje grandes basados en ellos, carece de la comprensión y el razonamiento necesarios para la inteligencia general, y que los avances son impredecibles. Algunos expertos creen que la superinteligencia está a siglos de distancia, lo que hace que los debates actuales sean prematuros. Esta incertidumbre sobre el cronograma complica las políticas, ya que las regulaciones deben equilibrar los daños a corto plazo con los riesgos catastróficos a largo plazo.
Esfuerzos de gobernanza internacional
Las propuestas para mitigar el riesgo de la ASI han incluido un tratado internacional para prevenir su aparición, similar a los acuerdos de control de armas. Sin embargo, todavía no se ha establecido ningún marco vinculante. La declaración de octubre de 2025 pidió una prohibición, pero implementar tal prohibición enfrenta desafíos, incluida la verificación y la naturaleza de doble uso de la investigación en IA. Algunos proponen estándares de seguridad y un desarrollo centrado en la seguridad, como lo ejemplifica la fundación de laboratorios dedicados a salvaguardar la ASI, como la empresa que recaudó más de $1 mil millones en 2024 y $2 mil millones en 2025 de inversores como NVIDIA y a16z.
Los debates sobre gobernanza también abordan el papel de la industria privada y la investigación académica. La ronda de $1 mil millones de 2024 de Safe Superintelligence destacó la disposición de los inversores a financiar enfoques que prioricen la seguridad, mientras que el debate sobre la SB-1047 de California mostró la fricción política sobre las medidas de seguridad obligatorias. No existe consenso sobre si los compromisos voluntarios, la legislación nacional o los tratados internacionales son más efectivos.
Conclusión
El debate sobre la superinteligencia de la IA de 2023–2025 refleja una ansiedad más amplia sobre la trayectoria de la inteligencia artificial. Si bien las definiciones y los cronogramas siguen siendo controvertidos, el potencial de cambio transformador - ya sea beneficioso o catastrófico - ha provocado una participación pública y de expertos sin precedentes. Los resultados de estas discusiones, incluida la declaración de prohibición de 2025 y la creciente oposición pública, probablemente darán forma a las prioridades de investigación futuras y los marcos regulatorios. A principios de 2026, la preocupación continúa intensificándose, con llamados constantes a medidas de precaución para garantizar que cualquier superinteligencia, si se crea, permanezca alineada con los valores humanos.