Nick Bostrom (nacido el 10 de marzo de 1973) es un filósofo nacido en Suecia conocido por su trabajo sobre el riesgo existencial, el principio antrópico, la ética de la mejora humana, la emulación total del cerebro y los riesgos de la superinteligencia. Fue el director fundador del Instituto del Futuro de la Humanidad en la Universidad de Oxford y se ha convertido en investigador principal en la Iniciativa de Investigación de Macroestrategia.
Bostrom es el autor de Sesgo antrópico: efectos de selección de observación en ciencia y filosofía (2002), Superinteligencia: caminos, peligros, estrategias (2014) y Utopía profunda: vida y significado en un mundo resuelto (2024). Sostiene que los avances en inteligencia artificial pueden conducir a una superinteligencia, que define como "cualquier intelecto que supere enormemente el rendimiento cognitivo de los humanos en prácticamente todos los dominios de interés", viendo esto como una fuente importante de oportunidades y riesgos existenciales.
Vida temprana y educación
Nacido como Niklas Boström en 1973 en Helsingborg, Suecia, no le gustaba la escuela a una edad temprana y pasó su último año de secundaria aprendiendo desde casa. Estaba interesado en la antropología, el arte, la literatura y la ciencia. Recibió una licenciatura de la Universidad de Gotemburgo en 1994, una maestría en filosofía y física de la Universidad de Estocolmo y una maestría en neurociencia computacional del King's College de Londres en 1996. Durante su tiempo en la Universidad de Estocolmo, investigó la relación entre el lenguaje y la realidad estudiando al filósofo analítico W. V. Quine. También actuó en el circuito de comedia en vivo de Londres.
En 2000, se le otorgó un doctorado en filosofía de la London School of Economics bajo la supervisión de Colin Howson y Craig Callender, con una tesis titulada "Efectos de selección observacional y probabilidad". Ocupó un puesto docente en la Universidad de Yale de 2000 a 2002 y fue becario postdoctoral de la Academia Británica en la Universidad de Oxford de 2002 a 2005.
Riesgo existencial y el Instituto del Futuro de la Humanidad
La investigación de Bostrom se centra en el futuro de la humanidad y los resultados a largo plazo. Define el riesgo existencial como aquel en el que un "resultado adverso aniquilaría la vida inteligente originada en la Tierra o reduciría permanente y drásticamente su potencial". Se centra en los riesgos antropogénicos, particularmente de nuevas tecnologías como la inteligencia artificial avanzada, la nanotecnología molecular o la biología sintética.
En 2005, Bostrom fundó el Instituto del Futuro de la Humanidad, que investigó el futuro lejano de la civilización humana hasta su cierre en 2024. También es asesor del Centro para el Estudio del Riesgo Existencial. En la colección de ensayos de 2008 Riesgos catastróficos globales, los editores Bostrom y Milan M. Ćirković caracterizaron la relación entre el riesgo existencial y la clase más amplia de riesgos catastróficos globales, vinculando el riesgo existencial con los efectos de selección de observación y la paradoja de Fermi.
En su artículo "La hipótesis del mundo vulnerable", Bostrom sugiere que algunas tecnologías podrían destruir la civilización humana por defecto cuando se descubren. Propone un marco para clasificar y abordar estas vulnerabilidades, incluidos experimentos mentales contrafácticos como que las armas nucleares fueran más fáciles de desarrollar o que encendieran la atmósfera, como temía Edward Teller.
Sensibilidad digital y razonamiento antrópico
Bostrom apoya el principio de independencia del sustrato, la idea de que la conciencia puede surgir en varios sustratos físicos, no solo en redes neuronales biológicas basadas en carbono como el cerebro humano. Considera que "la sensibilidad es una cuestión de grado" y que las mentes digitales podrían diseñarse para tener tasas e intensidades más altas de experiencia subjetiva que los humanos, utilizando menos recursos. Estas máquinas altamente sensibles, que él llama "superbeneficiarios", serían extremadamente eficientes para lograr la felicidad. Recomienda encontrar caminos que permitan que las mentes digitales y las mentes biológicas coexistan de manera mutuamente beneficiosa.
Bostrom ha publicado numerosos artículos sobre razonamiento antrópico, así como el libro Sesgo antrópico: efectos de selección de observación en ciencia y filosofía. En el libro, critica formulaciones anteriores del principio antrópico, incluidas las de Brandon Carter, John Leslie, John Barrow y Frank Tipler. Sostiene que el manejo incorrecto de la información indexical es un defecto común en muchas áreas de investigación, incluida la cosmología, la filosofía, la teoría de la evolución, la teoría de juegos y la física cuántica. Introduce el supuesto de auto-muestreo (SSA) y analiza el supuesto de auto-indicación (SIA), mostrando cómo conducen a conclusiones diferentes e identificando paradojas. Argumenta en contra del SIA y propone refinar el SSA en el supuesto de auto-muestreo fuerte (SSSA), que reemplaza "observadores" con "momentos de observador".
En trabajos posteriores con Milan M. Ćirković y Anders Sandberg, propuso el fenómeno de la sombra antrópica, un efecto de selección de observación que impide a los observadores observar ciertos tipos de catástrofes en su pasado geológico y evolutivo reciente. Sugieren que los eventos en la sombra antrópica probablemente se subestiman a menos que se realicen correcciones estadísticas.
Argumento de simulación y mejora humana
El argumento de simulación de Bostrom postula que al menos una de las siguientes afirmaciones es muy probable que sea verdadera: la fracción de civilizaciones de nivel humano que alcanzan una etapa posthumana es muy cercana a cero; la fracción de civilizaciones posthumanas interesadas en ejecutar simulaciones de antepasados es muy cercana a cero; o la fracción de todas las personas con nuestro tipo de experiencias que viven en una simulación es muy cercana a uno.
Bostrom está favorablemente dispuesto hacia la mejora humana, o "la auto-mejora y la perfectibilidad humana a través de la aplicación ética de la ciencia", y es crítico de las opiniones bioconservadoras. En 1998, cofundó la Asociación Transhumanista Mundial (ahora Humanity+) con David Pearce. En 2004, cofundó el Instituto de Ética y Tecnologías Emergentes con James Hughes, aunque ya no está involucrado con ninguna de las dos organizaciones. En 2005, publicó el cuento "La fábula del tirano dragón" en el Journal of Medical Ethics, con una versión más corta en Philosophy Now en 2012.
Legado e influencia
El trabajo de Bostrom ha moldeado significativamente los debates sobre la seguridad de la IA y el riesgo existencial. Su libro Superinteligencia ha sido ampliamente citado tanto en círculos académicos como de políticas, influyendo en los debates sobre cómo garantizar que los sistemas de IA avanzados se desarrollen de manera segura. Su enfoque interdisciplinario, que combina filosofía, teoría de la probabilidad y ciencias de la computación, lo ha convertido en una figura central en el campo de la ética de la IA. A principios de la década de 2020, sus ideas continúan informando la investigación en instituciones como OpenAI y Google DeepMind, que abordan los riesgos a largo plazo asociados con aprendizaje automático y aprendizaje profundo.