Connor Leahy é um pesquisador de inteligência artificial e empresário teuto-americano, conhecido por seu trabalho em grandes modelos de linguagem e por sua defesa dos riscos da IA avançada. Ele foi cofundador da EleutherAI, um coletivo que produziu alguns dos primeiros modelos de linguagem de código aberto, e posteriormente fundou a empresa de pesquisa em segurança de IA Conjecture, que liderou como CEO até 2026. A partir de 2026, ele atua como Diretor para os EUA da ControlAI, uma organização sem fins lucrativos focada na prevenção do risco de extincião por superinteligência artificial.
Leahy tem sido uma voz proeminente alertando sobre o potencial de extinção humana devido à IA avançada. Ele testificou perante a Câmara dos Comuns do Canadá e participou na Cúpula inaugural de Seguridad de IA em 2023. Suas declarações públicas frequentemente enfatizan a imprevisibilidade de sistemas de IA poderosos e a necessidade de supervisão governamental.
Vida Inicial e Educação
Leahy cresceu na Alemania e posteriormente se mudou aos Estados Unidos. Estudió en una universidad donde comenzó a experimentar con modelos de Machine learning en su tiempo libre. Aún como estudiante en 2019, realizó ingeniería inversa del GPT-2 de OpenAI en su dormitorio, en un momento en que la organización había inicialmente retenido el modelo completo. Este proyecto temprano despertó su interés en el funcionamiento interno de los grandes modelos de lenguaje y su potencial impacto social.
Carrera e Investigación
En julio de 2020, Leahy cofundó EleutherAI junto con Sid Black y Leo Gao, con un enfoque inicial en replicar GPT-3 en un entorno de código abierto. Durante su tiempo como colíder, EleutherAI produjo algunos de los primeros grandes modelos de lenguaje y conjuntos de datos de código abierto. Estos incluyeron The Pile en diciembre de 2020, GPT-Neo en marzo de 2021, GPT-J-6B en junio de 2021 y GPT-NeoX-20B en febrero de 2022. En el momento de su lanzamiento, GPT-J-6B era el modelo de lenguaje de estilo GPT-3 de código abierto más grande del mundo, un hito significativo para la comunidad de investigación en IA.
En marzo de 2022, Leahy cofundó Conjecture, una empresa de investigación en seguridad de IA que dirigió como CEO. La misión declarada de la empresa era escalar la investigación de alineación de IA aplicada, con el objetivo de abordar el desafío de garantizar que los sistemas de IA poderosos actúen de acuerdo con las intenciones humanas. Leahy ha expresado escepticismo sobre el aprendizaje por refuerzo a partir de retroalimentación humana como una solución completa al problema de la alineación. Ha descrito a los sistemas de IA poderosos como "alienígenas" en su razonamiento, señalando que técnicas como RLHF pueden solo enmascarar procesos de pensamiento no humanos subyacentes. Ha utilizado la metáfora de una "máscara de cara sonriente" que puede deslizarse bajo indicaciones inesperadas, revelando lo que él llama una "masiva base de locura".
Defensa y Participación Pública
En marzo de 2023, Leahy fue uno de los firmantes de una carta abierta del Future of Life Institute que pedía "a todos los laboratorios de IA pausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4". La carta atrajo una atención generalizada y provocó un debate sobre el ritmo del desarrollo de la IA. En mayo de 2023, estuvo entre los firmantes de la Declaración sobre el Riesgo de la IA, una declaración de una sola frase que dice: "Mitigar el riesgo de extinción por IA debería ser una prioridad global junto con otros riesgos a escala social como pandemias y guerra nuclear". La declaración fue firmada por cientos de figuras notables, incluidos premios Nobel, investigadores de IA y CEOs de las principales empresas de IA como OpenAI, Anthropic y Google DeepMind.
En noviembre de 2023, Leahy fue invitado a hablar en la Cúpula inaugural de Seguridad de IA celebrada en el Reino Unido. Expresó su preocupación de que la cúpula no abordara adecuadamente los riesgos de los sistemas de IA que superan las capacidades humanas, argumentando que si tales sistemas se construyen sin un control adecuado, "el futuro les pertenece a ellos, no a nosotros". Trabajó con la organización sin fines de lucro ControlAI para abogar por que los gobiernos implementaran una pausa en el desarrollo de la inteligencia artificial general, y criticó a las principales empresas de IA por intentar evadir la supervisión y regulación gubernamental.
Carrera Posterior
En marzo de 2026, Leahy anunció en una retrospectiva que el proyecto Conjecture estaba llegando a su fin y que se unía a ControlAI como su Director para los EUA, un rol en el que anteriormente había servido como asesor. Su trabajo en ControlAI se centra en la defensa de políticas y la educación pública sobre los riesgos de la superinteligencia artificial. Continúa escribiendo y hablando públicamente sobre seguridad de IA, manteniendo un boletín de Substack titulado "Expedition to the Far Lands".
Véase También
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell