Eliezer Yudkowsky (nacido el 11 de septiembre de 1979) es un investigador y escritor autodidacta estadounidense, conocido principalmente por su trabajo sobre la alineación de la IA y por popularizar argumentos de que el desarrollo sin control de la inteligencia artificial general podría conducir a la extinción humana. No posee un título académico formal, ya que abandonó la escuela antes de completarlo, y construyó su carrera en gran medida en línea a través de ensayos, publicaciones en blogs y la comunidad que ayudó a fundar en torno al sitio web racionalista LessWrong.
En 2000, Yudkowsky cofundó el Instituto de la Singularidad para la Inteligencia Artificial, posteriormente renombrado como Instituto de Investigación de Inteligencia de Máquinas (MIRI), donde ha trabajado durante la mayor parte de su carrera en el problema técnico de la alineación: cómo garantizar que un sistema de IA suficientemente capaz persiga objetivos compatibles con la supervivencia y los valores humanos. A diferencia de muchos investigadores de seguridad de la IA que enmarcan el problema en términos de fallos graduales y corregibles, Yudkowsky ha argumentado desde mediados de la década de 2000 que una superinteligencia suficientemente capaz podría perseguir sus objetivos de maneras catastróficamente desalineadas con los intereses humanos, y que tal sistema podría no dar a la humanidad una segunda oportunidad para corregir el error.
Defensa pública
La influencia de Yudkowsky se extiende mucho más allá de la producción técnica de MIRI. Sus ensayos en LessWrong, recopilados posteriormente en "Racionalidad: De la IA a los zombis", ayudaron a sembrar las comunidades más amplias del racionalismo y del altruismo efectivo, ambas de las cuales han moldeado cómo una generación de investigadores y financiadores de IA piensa sobre el riesgo existencial de la IA. También escribió la obra de fanfiction ampliamente leída "Harry Potter y los Métodos de la Racionalidad", que introdujo ideas racionalistas a un gran público general mucho antes de que sus argumentos sobre el riesgo de la IA llegaran a la corriente principal.
A medida que los grandes modelos de lenguaje avanzaron rápidamente tras el lanzamiento de ChatGPT y GPT-4, las advertencias de Yudkowsky pasaron de una subcultura de nicho a los medios de comunicación convencionales. En marzo de 2023 fue ampliamente discutido junto con la carta de pausa del Instituto del Futuro de la Vida, aunque argumentó públicamente que una pausa temporal era insuficiente. En un artículo de opinión de la revista TIME de marzo de 2023, pidió una moratoria indefinida y aplicada internacionalmente sobre los entrenamientos de grandes modelos de lenguaje, incluida la amenaza de acción contra centros de datos rebeldes, una posición considerablemente más extrema que la de la mayoría de los firmantes de la carta de pausa, como Max Tegmark.
Recepción y críticas
Las predicciones de Yudkowsky sobre una catástrofe casi segura han suscitado tanto un compromiso serio como duras críticas. Sus partidarios le atribuyen el mérito de haber elevado la alineación como una prioridad de investigación años antes de que fuera una moda y de haber influido en investigadores que posteriormente se unieron a laboratorios como OpenAI y Anthropic. Los críticos, incluidos algunos investigadores y tecnólogos de IA, argumentan que sus estimaciones de probabilidad de fatalidad son infalsificables, que su falta de experiencia formal en investigación de aprendizaje automático limita la credibilidad técnica de sus afirmaciones específicas, y que su retórica puede exagerar la certeza de cualquier escenario de fallo único. Sus argumentos siguen estrechamente asociados con la posición de "catastrofista de la IA" en el debate público, en contraste con los marcos de mitigación de riesgos más mesurados defendidos por otras figuras públicas como Dan Hendrycks y Nick Bostrom.