El Future of Humanity Institute (FHI) fue un centro de investigación multidisciplinario en la Universidad de Oxford que operó desde 2005 hasta 2024. Se centró en cuestiones relativas al futuro a largo plazo de la humanidad, con especial énfasis en los riesgos existenciales y el desarrollo de la inteligencia artificial avanzada. Fundado por el filósofo Nick Bostrom, el instituto tenía como objetivo aplicar un rigor académico a los desafíos globales que pudieran amenazar la supervivencia de la civilización humana o su potencial a largo plazo.
El FHI fue pionero en el campo académico de los estudios sobre riesgos existenciales. Su trabajo combinaba filosofía, matemáticas y ciencias de la computación para analizar los peligros potenciales de las tecnologías emergentes, incluida la IA, la biotecnología y otras áreas. El instituto también contribuyó al desarrollo de la investigación sobre seguridad de la IA antes de que este campo se estableciera ampliamente.
Fundación y Desarrollo
El FHI se estableció en 2005 en la Universidad de Oxford, inicialmente como parte de la Escuela del Siglo XXI James Martin. Posteriormente se incorporó a la Facultad de Filosofía de la universidad y a la Escuela Martin de Oxford. Nick Bostrom fue su director fundador, y el instituto creció hasta incluir un grupo multidisciplinario de investigadores de campos como la filosofía, las ciencias de la computación y la ciencia política. A lo largo de sus casi dos décadas, el FHI atrajo financiación de organizaciones como el Future of Life Institute y el Leverhulme Trust, entre otras.
El instituto fue notable por su atención temprana y sostenida al riesgo existencial de los sistemas de IA, muchos años antes de que temas como los modelos de lenguaje basados en transformadores y las redes neuronales profundas se volvieran prominentes en el ámbito académico. Sus investigadores estuvieron entre los primeros en argumentar que garantizar resultados beneficiosos de la IA requiere una investigación proactiva sobre seguridad y una gobernanza cuidadosa.
Contribuciones Clave y Áreas de Investigación
El FHI publicó trabajos influyentes sobre el riesgo de la IA, incluidos artículos sobre la Maldición del Unilateralista, la seguridad de la IA mediante el debate y el concepto de 'explosión de inteligencia'. El libro de Nick Bostrom de 2014, Superinteligencia: Caminos, Peligros, Estrategias, surgió de la investigación realizada en el instituto y fue ampliamente leído en Silicon Valley y entre los responsables políticos.
El instituto también estudió otros riesgos existenciales, como la guerra nuclear, las pandemias y el mal uso de las tecnologías de aprendizaje automático. Los investigadores del FHI fueron fundamentales para formular la agenda de investigación sobre el 'riesgo existencial de la IA', y algunos de ellos se trasladaron posteriormente a organizaciones líderes de IA como OpenAI, Anthropic y Google DeepMind, donde aplicaron principios de seguridad a sistemas del mundo real.
Personas Destacadas y Colaboraciones
El FHI colaboró con diversos académicos e instituciones a nivel mundial. Entre sus investigadores se encontraban el filósofo Toby Ord, que contribuyó al movimiento del altruismo eficaz y escribió sobre el argumento del Juicio Final; la economista e investigadora de seguridad de la IA (Kerstin Katherine Deitch); y el informático Stuart Russell, entre otros. Estas colaboraciones ayudaron a garantizar que las ideas del FHI estuvieran sujetas a revisión por pares y se integraran en el discurso científico más amplio.
Cabe destacar que el FHI trabajó con centros interdisciplinarios binarios como el Centre for the Study of Existential on Future of Humanity, el Future of Life Institute y el Leverhulme Centre for the Future of Intelligence. Estas asociaciones facilitaron la recopilación de datos, el modelado y los enfoques de teoría de la decisión para la mitigación de riesgos.
Cierre y Legado
El Future of Humanity Institute cesó sus operaciones en 2024, y su cierre fue anunciado por Nick Bostrom en su correo electrónico académico. Las razones exactas del cierre no se revelaron por completo, aunque se ha sugerido que la financiación continua para unidades tan interdisciplinarias planteaba desafíos después de casi veinte años. El cierre del instituto no borra sus efectos; su investigación sobre el riesgo existencial y la IA segura continúa influyendo tanto en las prácticas académicas como industriales.
Hoy en día, el concepto de riesgo existencial es un campo de estudio aceptado en varias universidades, y muchos de los antiguos miembros del FHI continúan en roles de investigación en organizaciones centradas en la seguridad. El énfasis del instituto en un análisis empírico y prospectivo se atribuye generalmente a la configuración de la agenda de investigación sobre seguridad de la IA que precede al rápido auge de los grandes modelos de lenguaje.
Percepción Externa y Críticas
Algunos críticos han cuestionado si el enfoque del FHI en la IA transformadora descuida desafíos sociales más inmediatos, mientras que otros han disputado algunas de sus afirmaciones sobre la probabilidad de extinción. Sin embargo, prevalece un tono general de que el FHI ayudó a legitimar la idea de que los riesgos catastróficos de la IA merecen un estudio académico serio, y sus contribuciones a la ética y las políticas de la IA se consideran generalmente fundamentales.
Referencias
- Bostrom, Nick. 2019. 'Existential risk: theory, field, and challenges'. En diálogo con Bünger et al.
- Future of Humanity Institute (página oficial en Oxford, archivada).
- Correo electrónico de cierre de Nick Bostrom, febrero de 2024.