Max Tegmark (nacido en 1967 en Estocolmo, Suecia) es un físico, cosmólogo y profesor del Instituto Tecnológico de Massachusetts (MIT), conocido por su investigación sobre el multiverso y las estructuras matemáticas que subyacen a la realidad física. Desde mediados de la década de 2010, se ha convertido en una de las figuras públicas más visibles que abogan por la precaución en el desarrollo de la inteligencia artificial general, principalmente a través de la organización sin fines de lucro que cofundó y que ahora dirige, el Future of Life Institute (FLI).
Tegmark cofundó el FLI en 2014 junto con varios colegas, incluido el cofundador de Skype, Jaan Tallinn, con el objetivo de financiar y coordinar investigaciones para reducir los riesgos de las tecnologías transformadoras, con un enfoque inicial destacado en el riesgo existencial de la inteligencia artificial. En 2017, el instituto organizó la Conferencia de Asilomar sobre IA Beneficiosa, que produjo un conjunto de principios ampliamente citados para el desarrollo responsable de la IA, firmados por cientos de investigadores. Desde entonces, el FLI se ha convertido en una de las organizaciones de defensa mejor financiadas y centradas específicamente en la seguridad de la IA.
Life 3.0 y defensa pública
En 2017, Tegmark publicó "Life 3.0: Being Human in the Age of Artificial Intelligence", un libro que presenta una variedad de escenarios sobre cómo la IA transformadora podría desarrollarse, desde resultados beneficiosos hasta catastróficos, y que popularizó un marco que describe las etapas de la vida como "Life 1.0" (biológica), "Life 2.0" (cultural) y "Life 3.0" (tecnológica). El libro se convirtió en una referencia clave en el debate público sobre la superinteligencia y ayudó a introducir conceptos de la investigación en seguridad de la IA a un público general amplio.
El momento de mayor perfil en la defensa de Tegmark llegó en marzo de 2023, cuando el FLI publicó la carta abierta "Pause Giant AI Experiments", conocida como la carta de pausa, que pedía a los laboratorios de IA detener durante al menos seis meses el entrenamiento de modelos más potentes que GPT-4. La carta, cuya organización y difusión Tegmark ayudó a liderar, fue firmada por miles de investigadores y tecnólogos, incluidos Elon Musk y otras figuras prominentes, y generó una amplia cobertura mediática sobre los riesgos de la IA, aunque la pausa solicitada nunca se llevó a cabo. Desde entonces, Tegmark ha seguido impulsando la gobernanza internacional vinculante, participando en iniciativas como la Ley de IA de la UE y la Declaración de Bletchley.
Posiciones y recepción
Tegmark generalmente enmarca el riesgo de la IA en términos de fallos de gobernanza concretos y a corto plazo, así como de escenarios catastróficos a más largo plazo, posicionándose entre las predicciones más categóricas de investigadores como Eliezer Yudkowsky y las voces más moderadas de la industria que favorecen una regulación más ligera. Los críticos han argumentado que las campañas del FLI a veces confunden los riesgos especulativos a largo plazo con los daños más inmediatos, como los sesgos algorítmicos o la desinformación, diluyendo la atención sobre ambos. Los partidarios, en cambio, reconocen a Tegmark el mérito de haber traducido las preocupaciones técnicas sobre la alineación de la IA a un lenguaje que llegó a los responsables políticos y al público en general antes y de forma más eficaz que la mayor parte del trabajo académico en seguridad de la IA.