La singularidad tecnológica es un punto futuro hipotético en el cual el crecimiento tecnológico, impulsado principalmente por inteligencia artificial avanzada, se vuelve tan rápido y auto-reforzante que produce una transformación impredecible e irreversible de la civilización humana. El término establece una analogía con la singularidad matemática, un punto donde las reglas normales se descomponen y la predicción más allá de él se vuelve imposible.
Orígenes de la idea
El matemático y físico Stanislaw Ulam, al relatar una conversación de la década de 1950 con John von Neumann, describió a von Neumann comentando sobre "el progreso tecnológico cada vez más acelerado" que se aproxima a "alguna singularidad esencial en la historia de la raza, más allá de la cual los asuntos humanos, tal como los conocemos, no podrían continuar". El concepto fue desarrollado sustancialmente por el científico informático y autor de ciencia ficción Vernor Vinge, cuyo influyente ensayo de 1993 "La singularidad tecnológica venidera" argumentó que la creación de inteligencia sobrehumana marcaría un horizonte de eventos después del cual el futuro se vuelve fundamentalmente incognoscible para los humanos no aumentados, y predijo que esto podría ocurrir en décadas.
Kurzweil y la ley de rendimientos acelerados
El futurista Ray Kurzweil popularizó la idea para una audiencia general, especialmente en su libro de 2005 "La singularidad está cerca". Kurzweil argumenta que las tendencias exponenciales en computación, biotecnología y otros campos, formalizadas como una "ley de rendimientos acelerados", conducirán a una fusión de la inteligencia humana y la máquina, y ha predicho repetidamente que la singularidad llegará alrededor de 2045. Su historial de predicciones específicas ha recibido tanto elogios por la precisión direccional como críticas por fechas fallidas y excesos.
Explosión de inteligencia
El mecanismo más invocado para explicar cómo podría ocurrir una singularidad es la "explosión de inteligencia" descrita por el matemático I. J. Good en 1965 y elaborada posteriormente por Nick Bostrom: un sistema de IA capaz de mejorar su propio diseño podría producir versiones sucesivamente más capaces en un bucle de retroalimentación que se acelera rápidamente, culminando en superinteligencia mucho más allá de la comprensión humana, un escenario que algunos consideran un camino rápido desde inteligencia artificial general hacia algo mucho más allá de ella. Este marco vincula estrechamente el concepto de singularidad con los debates contemporáneos sobre riesgo existencial de la IA, ya que un salto repentino e incontrolado de capacidades dejaría poco tiempo para corregir el rumbo.
Crítica y escepticismo
Los críticos argumentan que el concepto de singularidad se basa en una extrapolación cuestionable de curvas exponenciales que en la práctica tienden a seguir curvas en forma de S con rendimientos decrecientes, y que la "inteligencia" no es una cantidad escalar única que pueda simplemente ampliarse indefinidamente. Las restricciones físicas, incluida la disponibilidad de energía, la capacidad de fabricación de chips y la disponibilidad de datos, se citan como posibles cuellos de botella. Investigadores como Yann LeCun y Gary Marcus han descartado los escenarios de singularidad a corto plazo como especulativos e insuficientemente fundamentados en cómo funcionan realmente los sistemas actuales, aunque reconocen que el progreso de la IA sigue siendo rápido según los estándares históricos.
Relevancia contemporánea
Aunque la "singularidad" como evento fechado específico se usa ahora con más cautela entre los investigadores que entre los comentaristas populares, la pregunta subyacente, si el progreso de la IA podría alcanzar un punto de inflexión de auto-mejora rápida y difícil de controlar, continúa informando la investigación en seguridad de la IA y alineación, incluidos los debates sobre leyes de escalado y el ritmo de las ganancias de capacidades de los sistemas modelos de razonamiento que utilizan cómputo adicional en tiempo de inferencia.