Carl Shulman est un chercheur en intelligence artificielle et un expert en politiques publiques. Il est cofondateur d'Open Philanthropy, une organisation de subventionnement qui conseille les donateurs sur les dons à fort impact, et a été une figure clé dans le développement du mouvement de l'altruisme efficace. Son travail se concentre sur les risques et les opportunités à long terme de l'IA avancée, y compris le risque existentiel et la gouvernance de l'IA.
Les contributions de recherche et de politique de Shulman ont porté sur l'intersection de la sécurité de l'IA, de la prospective et de la philanthropie. Il a été une voix éminente dans les discussions sur le potentiel de l'IA à poser des risques catastrophiques, et a travaillé à orienter le financement et l'attention vers l'atténuation de ces risques. Il a également participé à l'étude académique de ces sujets, contribuant au domaine de l'alignement de l'IA et au discours plus large sur l'avenir de la technologie.
Vie et éducation
Le parcours académique initial de Shulman est en droit et en philosophie. Il a obtenu un diplôme en droit, puis s'est intéressé aux implications éthiques des technologies émergentes, en particulier l'IA. Cet intérêt l'a conduit à l'Université d'Oxford, où il s'est impliqué au Future of Humanity Institute (FHI), un centre de recherche interdisciplinaire axé sur les questions à grande échelle concernant l'avenir à long terme de l'humanité. Au FHI, il a travaillé aux côtés de chercheurs tels que Nick Bostrom et Toby Ord, contribuant aux recherches de l'institut sur le risque existentiel et la philosophie de l'IA.
Carrière chez Open Philanthropy
Shulman est cofondateur d'Open Philanthropy, une organisation issue de la communauté de l'altruisme efficace. Open Philanthropy a été créée pour mener des recherches approfondies et accorder des subventions importantes afin de résoudre certains des problèmes les plus urgents du monde, avec un accent significatif sur le risque lié à l'IA et les politiques. Shulman a servi comme conseiller principal et chercheur dans l'organisation, contribuant à façonner sa stratégie de subventionnement dans le domaine de l'IA. Son travail a impliqué l'identification de directions de recherche prometteuses, l'évaluation de l'impact potentiel de diverses initiatives de sécurité de l'IA, et le soutien à des organisations travaillant sur la gouvernance de l'IA et l'alignement technique.
Contributions au risque et aux politiques liés à l'IA
Shulman a été un écrivain et un conférencier prolifique sur le risque lié à l'IA. Il a soutenu que le développement de l'intelligence artificielle pourrait conduire à des résultats allant d'avantages considérables à une catastrophe existentielle, et que les choix faits par les chercheurs, les décideurs politiques et les bailleurs de fonds aujourd'hui sont cruciaux. Il a souligné l'importance de la recherche technique sur l'alignement de l'IA, ainsi que la nécessité de mécanismes de gouvernance robustes pour garantir que le développement de l'IA se déroule en toute sécurité. Son travail a influencé les priorités des efforts philanthropiques majeurs dans le domaine de l'IA, y compris ceux d'Open Philanthropy et du Future of Life Institute.
Points de vue sur l'alignement et la gouvernance de l'IA
La perspective de Shulman sur l'alignement de l'IA se caractérise par une attention portée aux actions pratiques à court terme qui peuvent réduire les risques à long terme. Il a plaidé en faveur d'un investissement accru dans la recherche technique sur des sujets tels que l'interprétabilité du machine learning, la robustesse et le développement de réseaux de neurones sûrs. Il a également souligné l'importance de la recherche sur les politiques, y compris la conception d'accords internationaux et le rôle d'organisations comme OpenAI et Anthropic dans la formation des normes de l'industrie. Il a été un partisan des approches "précautionneuses" qui privilégient la sécurité à la rapidité, tout en reconnaissant les avantages potentiels de l'IA pour résoudre des problèmes mondiaux.
Rôle dans l'altruisme efficace
Shulman est une figure centrale de la communauté de l'altruisme efficace, qui cherche à utiliser des preuves et la raison pour faire le plus de bien possible. Son travail chez Open Philanthropy a été un modèle pour appliquer ces principes au domaine de l'IA. Il a écrit abondamment sur l'importance morale de l'avenir lointain, soutenant que la trajectoire à long terme de l'humanité est une considération clé pour la prise de décision éthique. Cette perspective l'a conduit à se concentrer sur les risques existentiels, qu'il considère comme le problème le plus pressant de notre époque.
Publications et conférences sélectionnées
Shulman a écrit ou coécrit de nombreux articles et essais sur le risque lié à l'IA, la prospective et la philanthropie. Il a donné des conférences lors de grandes conférences et ateliers sur l'IA, y compris ceux organisés par le laboratoire Berkeley AI Research et le Stanford AI Lab. Ses écrits apparaissent souvent dans des lieux tels que le Forum de l'altruisme efficace et des revues académiques. Il a également contribué aux résultats de recherche du Future of Humanity Institute, y compris des travaux sur le paradoxe de Fermi et l'argument de la simulation.
Impact et héritage
L'influence de Shulman s'étend au-delà de sa propre recherche. Grâce à son rôle chez Open Philanthropy, il a aidé à diriger des centaines de millions de dollars vers la recherche sur la sécurité de l'IA et les initiatives politiques. Ce financement a soutenu la croissance d'organisations comme Anthropic et le Machine Intelligence Research Institute, ainsi que des groupes académiques dans des institutions telles qu'Oxford et Carnegie Mellon University. Ses idées ont façonné la réflexion stratégique de nombreux acteurs du domaine de l'IA, et il est largement considéré comme un penseur clé sur les risques à long terme de l'IA.
Vie personnelle
Shulman est connu pour sa rigueur intellectuelle et son engagement à utiliser ses compétences pour résoudre les problèmes les plus importants de l'humanité. Il est basé aux États-Unis et continue de travailler sur la politique de l'IA et la philanthropie. Il est également un collaborateur fréquent avec d'autres chercheurs des communautés de l'altruisme efficace et de la sécurité de l'IA, notamment Nick Bostrom et Toby Ord.
Voir aussi
- Future of Humanity Institute
- Open Philanthropy
- Risque existentiel
- Alignement de l'IA
Références
- Open Philanthropy. "Carl Shulman." Consulté en 2023.
- Future of Humanity Institute. "Personnel." Université d'Oxford.
- Shulman, Carl. "L'IA et l'avenir lointain." Forum de l'altruisme efficace, 2019.