Connor Leahy es un investigador de inteligencia artificial y empresario germano-estadounidense conocido por su trabajo en modelos de lenguaje de gran escala y por su defensa de los riesgos de la IA avanzada. Cofundó EleutherAI, un colectivo que produjo los primeros modelos de lenguaje de código abierto, y más tarde fundó la empresa de investigación de seguridad de IA Conjecture, que dirigió como CEO hasta 2026. A partir de 2026, se desempeña como Director para Estados Unidos de ControlAI, una organización sin fines de lucro centrada en prevenir el riesgo de extinción por la superinteligencia artificial.
Leahy ha sido una voz prominente advirtiendo sobre el potencial de extinción humana por la IA avanzada. Ha testificado ante la Cámara de los Comunes de Canadá y participó en la Cumbre inaugural de Seguridad de IA en 2023. Sus declaraciones públicas a menudo enfatizan la imprevisibilidad de los sistemas de IA poderosos y la necesidad de supervisión gubernamental.
Vida temprana y educación
Leahy creció en Alemania y luego se mudó a los Estados Unidos. Estudió en una universidad donde comenzó a experimentar con modelos de aprendizaje automático en su tiempo libre. Mientras aún era estudiante en 2019, realizó ingeniería inversa del GPT-2 de OpenAI en su dormitorio, en un momento en que la organización había retenido inicialmente el modelo completo. Este proyecto temprano despertó su interés en el funcionamiento interno de los modelos de lenguaje de gran escala y su impacto social potencial.
Carrera e investigación
En julio de 2020, Leahy cofundó EleutherAI junto con Sid Black y Leo Gao, con un enfoque inicial en replicar GPT-3 en un entorno de código abierto. Durante su tiempo como colíder, EleutherAI produjo algunos de los primeros modelos de lenguaje de gran escala y conjuntos de datos de código abierto. Estos incluyeron The Pile en diciembre de 2020, GPT-Neo en marzo de 2021, GPT-J-6B en junio de 2021 y GPT-NeoX-20B en febrero de 2022. En el momento de su lanzamiento, GPT-J-6B era el modelo de lenguaje de estilo GPT-3 de código abierto más grande del mundo, un hito significativo para la comunidad de investigación de IA.
En marzo de 2022, Leahy cofundó Conjecture, una empresa de investigación de seguridad de IA que dirigió como CEO. La misión declarada de la empresa era escalar la investigación aplicada de alineación de IA, con el objetivo de abordar el desafío de garantizar que los sistemas de IA poderosos actúen de acuerdo con las intenciones humanas. Leahy ha expresado escepticismo sobre el aprendizaje por refuerzo a partir de retroalimentación humana como una solución completa al problema de alineación. Ha descrito los sistemas de IA poderosos como "alienígenas" en su razonamiento, señalando que técnicas como RLHF pueden solo enmascarar procesos de pensamiento no humanos subyacentes. Ha utilizado la metáfora de una "máscara de cara sonriente" que puede deslizarse bajo indicaciones inesperadas, revelando lo que él llama una "masiva base de insanidad".
Defensa y participación pública
En marzo de 2023, Leahy fue uno de los firmantes de una carta abierta del Future of Life Institute que pedía "a todos los laboratorios de IA que pausaran inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más poderosos que GPT-4". La carta atrajo una atención generalizada y provocó un debate sobre el ritmo del desarrollo de la IA. En mayo de 2023, fue uno de los firmantes de la Declaración sobre el Riesgo de la IA, una declaración de una oración que dice: "Mitigar el riesgo de extinción por la IA debería ser una prioridad global junto con otros riesgos a escala social como pandemias y guerra nuclear". La declaración fue firmada por cientos de figuras notables, incluidos premios Nobel, investigadores de IA y directores ejecutivos de grandes empresas de IA como OpenAI, Anthropic y Google DeepMind.
En noviembre de 2023, Leahy fue invitado a hablar en la Cumbre inaugural de Seguridad de IA celebrada en el Reino Unido. Expresó su preocupación de que la cumbre no abordaría adecuadamente los riesgos de los sistemas de IA que superan las capacidades humanas, argumentando que si tales sistemas se construyen sin control adecuado, "el futuro les pertenece a ellos, no a nosotros". Trabajó con la organización sin fines de lucro ControlAI para abogar por que los gobiernos implementaran una pausa en el desarrollo de la inteligencia artificial general, y criticó a las grandes empresas de IA por intentar evadir la supervisión y regulación gubernamental.
Carrera posterior
En marzo de 2026, Leahy anunció en una retrospectiva que el proyecto Conjecture estaba llegando a su fin, y que se unía a ControlAI como su Director para Estados Unidos, un rol en el que anteriormente había servido como asesor. Su trabajo en ControlAI se centra en la defensa de políticas y la educación pública sobre los riesgos de la superinteligencia artificial. Continúa escribiendo y hablando públicamente sobre seguridad de IA, manteniendo un boletín de Substack titulado "Expedition to the Far Lands".
Véase también
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell