Dario Amodei est un chercheur américain en apprentissage automatique et le cofondateur et directeur général d'Anthropic, une entreprise qu'il a contribué à créer en 2021 après plusieurs années passées à des postes de recherche senior chez OpenAI.
Début de carrière
Amodei est titulaire d'un doctorat en biophysique de l'Université de Princeton. Avant de se tourner pleinement vers l'apprentissage automatique, il a travaillé dans l'équipe d'IA d'Andrew Ng chez Baidu, puis chez Google Brain. Il a rejoint OpenAI en 2016 et est devenu vice-président de la recherche, où il a participé au développement de GPT-2 et GPT-3 ainsi qu'aux premières discussions sur la sécurité et les politiques d'OpenAI, y compris la publication progressive et prudente de GPT-2 en 2019.
Fondation d'Anthropic
En 2021, Amodei a quitté OpenAI avec un groupe de collègues, dont sa sœur Daniela Amodei, Tom Brown, Jared Kaplan et Chris Olah, pour fonder Anthropic. Ce départ a été largement rapporté à l'époque comme découlant de désaccords sur l'orientation d'OpenAI après sa restructuration en 2019 en entreprise à but lucratif plafonné et son partenariat renforcé avec Microsoft. Anthropic a été construite autour d'une thèse qu'Amodei a décrite à plusieurs reprises dans ses écrits publics et ses interviews : que la voie la plus sûre est que les chercheurs axés sur la sécurité construisent eux-mêmes des modèles de pointe, plutôt que de céder ce terrain à des laboratoires moins soucieux de la sécurité, afin de pouvoir étudier et façonner directement les systèmes les plus capables.
Plaidoyer public
En tant que directeur général d'Anthropic, Amodei est devenu l'une des voix les plus visibles plaidant à la fois pour une escalade agressive continue des capacités de l'IA et pour une prudence et une réglementation substantielles autour de celle-ci. La politique de mise à l'échelle responsable d'Anthropic (voir principes d'Anthropic) formalise des seuils de capacité destinés à déclencher des mesures de sécurité supplémentaires. En 2024, Amodei a publié l'essai « Machines of Loving Grace », qui soutenait que des systèmes d'IA puissants pourraient plausiblement accélérer considérablement les progrès scientifiques et médicaux en une décennie si le développement se déroule bien, un contrepoint notablement optimiste à ses fréquents avertissements ailleurs sur les risques catastrophiques et existentiels de l'IA avancée (voir sécurité de l'IA). Il a témoigné devant le Congrès américain et a dialogué avec les décideurs politiques sur la gouvernance de l'IA.
Direction d'Anthropic
Sous la direction d'Amodei, Anthropic a développé la famille de modèles Claude et la méthode d'entraînement IA constitutionnelle, et a levé des fonds auprès d'investisseurs tels que Google et Amazon, tout en restant plus petite qu'OpenAI selon la plupart des mesures d'utilisation et de revenus jusqu'au milieu des années 2020. Il est fréquemment présenté aux côtés de Sam Altman comme l'une des figures centrales façonnant l'orientation du boom de l'IA générative au sens large.