Dario Amodei es un investigador estadounidense de aprendizaje automático y cofundador y director ejecutivo de Anthropic, una empresa que ayudó a fundar en 2021 después de varios años en puestos de investigación sénior en OpenAI.
Carrera temprana
Amodei tiene un doctorado en biofísica de la Universidad de Princeton. Antes de dedicarse por completo al aprendizaje automático, trabajó en el equipo de IA de Andrew Ng en Baidu y luego en Google Brain. Se unió a OpenAI en 2016 y se convirtió en vicepresidente de investigación, donde participó en el desarrollo de GPT-2 y GPT-3 y en las primeras discusiones de seguridad y políticas de OpenAI, incluida la liberación gradual y cautelosa de GPT-2 en 2019.
Fundación de Anthropic
En 2021, Amodei dejó OpenAI junto con un grupo de colegas, incluidos su hermana Daniela Amodei, Tom Brown, Jared Kaplan y Chris Olah, para fundar Anthropic. La salida fue ampliamente reportada en ese momento como resultado de desacuerdos sobre la dirección de OpenAI tras su reestructuración en 2019 como una empresa con fines de lucro limitados y su creciente asociación con Microsoft. Anthropic se construyó en torno a una tesis que Amodei ha descrito repetidamente en escritos públicos y entrevistas: que el camino más seguro es que los investigadores centrados en la seguridad construyan ellos mismos los modelos de capacidad fronteriza, en lugar de ceder ese terreno a laboratorios con menos énfasis en la seguridad, para poder estudiar y moldear directamente los sistemas más capaces.
Defensa pública
Como director ejecutivo de Anthropic, Amodei se ha convertido en una de las voces más visibles que abogan simultáneamente por una escalada agresiva continua de la capacidad de la IA y por una cautela y regulación sustanciales en torno a ella. La Política de Escalada Responsable de Anthropic (ver principios de Anthropic) formaliza umbrales de capacidad destinados a activar medidas de seguridad adicionales. En 2024, Amodei publicó el ensayo "Máquinas de Gracia Amorosa", que argumentaba que los sistemas de IA potentes podrían acelerar dramáticamente el progreso científico y médico en una década si el desarrollo va bien, un contrapunto notablemente optimista a sus frecuentes advertencias en otros lugares sobre riesgos catastróficos y riesgos existenciales de la IA avanzada (ver seguridad de la IA). Ha testificado ante el Congreso de los Estados Unidos y ha interactuado con responsables políticos sobre la gobernanza de la IA.
Liderazgo de Anthropic
Bajo Amodei, Anthropic desarrolló la familia de modelos Claude y el método de entrenamiento IA Constitucional, y recaudó fondos de inversores como Google y Amazon, mientras seguía siendo más pequeña que OpenAI en la mayoría de las medidas de uso e ingresos hasta mediados de la década de 2020. Con frecuencia se le perfila junto a Sam Altman como una de las figuras centrales que moldean la dirección del auge de la IA generativa en general.