L'AI Now Institute (AI Now) est un institut de recherche américain qui étudie les implications sociales de l'intelligence artificielle et mène des recherches politiques sur la concentration du pouvoir dans l'industrie technologique. Fondé en 2017 et basé à l'Université de New York, il est reconnu comme le premier institut de recherche universitaire dédié aux implications sociales de l'IA et le premier institut d'IA fondé et dirigé par des femmes. L'institut a collaboré avec des organisations telles que le Distributed AI Research Institute (DAIR), Data & Society, l'Ada Lovelace Institute, la Tandon School of Engineering de l'Université de New York, le Center for Data Science de l'Université de New York, le Partnership on AI et l'ACLU.
AI Now produit des rapports annuels examinant comment l'IA affecte la société, en mettant l'accent sur des questions telles que les inégalités, le travail et l'éthique. Sa direction a également occupé des rôles consultatifs, notamment en tant que conseillers seniors sur l'IA auprès de la présidente Lina Khan à la Federal Trade Commission en 2021-22. Selon les dernières informations disponibles, sa directrice exécutive est Amba Kak.
Fondation
AI Now est issu d'un symposium organisé en 2016 par le Bureau des politiques scientifiques et technologiques de la Maison Blanche sous l'administration Obama. L'événement était dirigé par Meredith Whittaker, fondatrice du groupe de recherche ouvert de Google, et Kate Crawford, chercheuse principale chez Microsoft Research. Le symposium portait sur les implications à court terme de l'IA dans les domaines sociaux, notamment les inégalités, le travail, l'éthique et la santé.
En novembre 2017, AI Now a tenu un deuxième symposium sur l'IA et les questions sociales et a lancé publiquement l'AI Now Institute en partenariat avec l'Université de New York. L'institut était initialement hébergé à NYU, mais est depuis devenu une organisation entièrement indépendante. Sa fondation a été remarquable car elle était dirigée par des femmes dans un domaine où les rôles de leadership étaient majoritairement occupés par des hommes.
Mission
Dans une interview avec NPR, Kate Crawford a déclaré que la motivation pour fonder AI Now était l'observation que l'application de l'IA dans les domaines sociaux - tels que la santé, l'éducation et la justice pénale - était traitée comme un problème purement technique. L'objectif de l'institut est de recadrer ces questions comme des problèmes sociaux avant tout, en faisant appel à des experts de domaines comme la sociologie, le droit et l'histoire pour étudier les implications de l'IA. Cette approche interdisciplinaire distingue AI Now de nombreux centres de recherche techniques qui se concentrent principalement sur l'avancement des capacités de apprentissage automatique.
La mission de l'institut met également l'accent sur la lutte contre la concentration du pouvoir dans l'industrie technologique, qu'il considère comme une question centrale dans la gouvernance de l'IA. Cet accent a conduit à des collaborations avec des organisations de la société civile et des groupes de défense, ainsi qu'à un engagement avec les organismes de réglementation.
Recherche
AI Now publie un rapport annuel sur l'état de l'IA et son intégration dans la société. Son rapport de 2017 soutenait que « les cadres actuels de l'éthique de l'IA échouent » et fournissait dix recommandations stratégiques pour le domaine, notamment des essais préalables à la mise sur le marché des systèmes d'IA et une recherche accrue sur les biais et la diversité. Le rapport a été remarqué pour avoir appelé à la fin des systèmes « boîte noire » dans les domaines sociaux essentiels, tels que ceux responsables de la justice pénale, de la santé, de l'aide sociale et de l'éducation.
En avril 2018, AI Now a publié un cadre pour les évaluations d'impact algorithmique (EIA), conçu comme un moyen pour les gouvernements d'évaluer l'utilisation de l'IA dans les agences publiques. Selon AI Now, une EIA serait similaire à une évaluation d'impact environnemental, exigeant une divulgation publique et un accès pour des experts externes afin d'évaluer les effets d'un système d'IA et toute conséquence imprévue. Cela permettrait de vérifier les systèmes pour des problèmes tels que des résultats biaisés ou des données d'entraînement déséquilibrées, que les chercheurs avaient déjà identifiés dans les systèmes algorithmiques déployés à travers le pays.
Son rapport de 2023 soutenait qu'une réforme significative du secteur technologique doit se concentrer sur la lutte contre le pouvoir concentré dans l'industrie technologique. Ce rapport a poursuivi l'accent de l'institut sur les questions structurelles plutôt que sur des solutions purement techniques, plaidant pour des changements politiques qui redistribueraient le pouvoir loin d'un petit nombre de grandes entreprises.
Collaborations et influence
AI Now a collaboré avec une gamme d'organisations académiques et de défense, notamment le Distributed AI Research Institute (DAIR), Data & Society, l'Ada Lovelace Institute et le Partnership on AI. Ces collaborations ont étendu sa portée au-delà du milieu académique vers les politiques et la société civile. Les travaux de l'institut ont été cités dans des discussions sur la réglementation de l'IA, et sa direction a fourni des témoignages d'experts et des contributions consultatives aux organismes gouvernementaux.
En 2021-22, la direction d'AI Now a servi de conseillers seniors sur l'IA auprès de la présidente Lina Khan à la Federal Trade Commission, indiquant son influence sur les discussions politiques fédérales. Les recherches de l'institut ont également informé les débats sur la IA générative et ses impacts sociétaux, bien que son accent reste sur les dimensions sociales et politiques plus larges de l'IA plutôt que sur des développements techniques spécifiques.