Partenariat sur l'intelligence artificielle pour le bénéfice des personnes et de la société, communément appelé Partenariat sur l'IA (PAI), est une coalition à but non lucratif dédiée à l'utilisation responsable de l'intelligence artificielle. Fondée en 2016, l'organisation rassemble des parties prenantes du monde académique, de la société civile et de l'industrie pour élaborer des recommandations de bonnes pratiques pour la communauté technologique. En 2024, PAI compte 126 organisations partenaires dans 16 pays, travaillant sur des questions allant de la transparence algorithmique aux impacts sociétaux de l'automatisation.
La coalition fonctionne sur un modèle multipartite, intégrant les perspectives des entreprises technologiques, des institutions de recherche et des groupes de défense. Son travail se concentre sur la traduction des principes en orientations concrètes pour les développeurs, les décideurs politiques et le public, avec un accent sur l'atténuation des risques tout en favorisant l'innovation dans des domaines tels que apprentissage automatique et IA générative.
Historique
Le Partenariat sur l'IA a été publiquement annoncé le 28 septembre 2016, avec des membres fondateurs incluant Amazon, Facebook, Google, DeepMind, Microsoft et IBM. Les coprésidents intérimaires étaient Eric Horvitz de Microsoft Research et Mustafa Suleyman de DeepMind. En janvier 2017, Tom Gruber, responsable du développement avancé de Siri chez Apple, a rejoint le conseil d'administration. Terah Lyons est devenue directrice exécutive fondatrice en octobre 2017, apportant son expérience en tant que conseillère politique auprès de la directrice de la technologie des États-Unis, Megan Smith.
Baidu est devenu la première entreprise basée en Chine à rejoindre en octobre 2018. En novembre 2020, PAI a lancé la base de données des incidents liés à l'IA (AIID), un outil public pour identifier et évaluer les préjudices liés à l'IA. Rebecca Finlay, anciennement membre du conseil d'administration, a été nommée directrice générale le 26 octobre 2021, après avoir servi comme directrice exécutive intérimaire. En février 2023, PAI a introduit un cadre pour les médias synthétiques éthiques, soutenu par des partenaires tels qu'Adobe, BBC, OpenAI et TikTok, à la suite d'un processus collaboratif d'un an.
Mission et principes
PAI organise son travail en cinq domaines de programme : intégrité des médias et IA ; IA, travail et économie ; justice, transparence et responsabilité ; recherche et conception inclusives ; et sécurité pour l'IA. Chaque programme produit des outils méthodologiques, des rapports et des lignes directrices visant un impact pratique. Le programme sur l'intégrité des médias et l'IA aborde le potentiel de l'IA à amplifier les contenus nuisibles, tandis que le programme sur l'IA, le travail et l'économie réunit des économistes et des représentants des travailleurs pour façonner des politiques économiques inclusives.
Le programme sur l'équité, la transparence et la responsabilité développe des normes pour l'équité et l'explicabilité algorithmiques, complétant le programme de recherche et de conception inclusives, qui promeut la participation communautaire au développement de l'IA. Le programme sur l'IA critique pour la sécurité se concentre sur des secteurs à enjeux élevés comme la médecine et les transports, supervisant des initiatives telles que la base de données des incidents liés à l'IA et l'environnement d'apprentissage SafeLife. L'organisation met également l'accent sur l'utilité sociale, explorant des applications de l'IA dans le bien-être public, l'éducation et la durabilité.
Programmes et initiatives
Une initiative clé est le cadre pour le déploiement sûr des modèles d'IA, qui guide les fournisseurs dans la gestion des capacités évolutives et des risques sociétaux. PAI collabore également avec Google DeepMind sur des recherches concernant les taux d'attrition parmi les femmes et les personnes minorisées dans le secteur technologique. Dans le domaine de l'explicabilité, l'organisation a organisé des ateliers sur le déploiement de l'IA explicable (XAI), réunissant des experts de l'industrie pour discuter des défis pratiques.
En partenariat avec First Draft, PAI a étudié des stratégies pour contrer les contenus en ligne trompeurs, reflétant son approche méthodique de l'intégrité de l'information. La base de données des incidents liés à l'IA reste une ressource centrale, cataloguant des cas réels pour éclairer les pratiques de gestion des risques. La réponse de PAI à l'Institut national des normes et de la technologie (NIST) en août 2021 a mis en évidence ces efforts, y compris le projet ABOUT ML pour documenter les cycles de vie de l'apprentissage automatique, comme étant alignés sur le cadre de gestion des risques de l'IA du NIST.
Impact et gouvernance
La structure de gouvernance de PAI comprend un conseil d'administration composé d'organisations partenaires, avec des transitions de leadership documentées depuis sa fondation. La croissance de la coalition, passant de six entreprises fondatrices à plus de 120 partenaires, illustre son influence croissante dans tous les secteurs. Ses recommandations ont été référencées dans des discussions politiques, en particulier concernant la gestion des risques de l'IA et la gouvernance des médias synthétiques. L'organisation continue d'adapter ses priorités à mesure que les technologies d'intelligence artificielle évoluent, équilibrant innovation et responsabilité.
En 2024, PAI reste actif dans la formation des conversations mondiales sur l'IA responsable, avec des projets en cours dans l'intégrité des médias, le travail et la sécurité. Son modèle collaboratif le distingue des efforts purement dirigés par l'industrie, visant à intégrer des voix diverses dans les décisions techniques et politiques.