Les principes d'IA de Google, publiés en juin 2018, sont un ensemble de directives éthiques qui régissent la recherche, le développement et le déploiement de l'intelligence artificielle par l'entreprise. Les principes ont été introduits par le PDG Sundar Pichai dans un article de blog, décrivant sept objectifs que Google s'engage à respecter dans son travail sur l'IA, ainsi que des domaines d'application que l'entreprise ne poursuivra pas. Les directives ont émergé au milieu d'un débat public croissant sur l'éthique de l'IA, y compris des préoccupations concernant les biais algorithmiques, la confidentialité et l'utilisation potentiellement abusive des systèmes autonomes.
Les principes ont été façonnés par des discussions internes et des contributions externes, y compris des retours d'employés et de groupes de la société civile. Ils ont suivi des controverses internes, telles que le projet Maven, un programme d'analyse d'images de drones du département de la Défense des États-Unis, qui a conduit à des protestations d'employés et à la démission de plusieurs chercheurs. Les principes visent à fournir un cadre pour la prise de décision éthique dans l'IA, en équilibrant innovation et responsabilité.
Objectifs fondamentaux
Les principes d'IA de Google énumèrent sept objectifs principaux. Premièrement, l'IA doit être socialement bénéfique, visant à améliorer la vie des gens et à relever des défis comme la santé, l'éducation et la durabilité. Deuxièmement, l'IA doit éviter de créer ou de renforcer des biais injustes, avec des efforts pour garantir l'équité et atténuer les résultats discriminatoires. Troisièmement, l'IA doit être construite et testée pour la sécurité, y compris une conception robuste et une évaluation des risques. Quatrièmement, l'IA doit être responsable envers les personnes, avec des opportunités de retour d'information et une supervision humaine. Cinquièmement, l'IA doit intégrer des principes de conception de confidentialité, donnant aux utilisateurs transparence et contrôle sur leurs données. Sixièmement, l'IA doit maintenir des normes élevées d'excellence scientifique, y compris des tests rigoureux et une évaluation par les pairs. Septièmement, l'IA doit être mise à disposition pour des utilisations conformes à ces principes, en considérant le contexte et les préjudices potentiels.
Applications non poursuivies
Les principes spécifient également les domaines où Google ne concevra ni ne déploiera d'IA. Cela inclut les technologies qui causent ou sont susceptibles de causer un préjudice global, les armes ou autres technologies dont le but principal est de faciliter les blessures, les technologies qui collectent ou utilisent des informations pour une surveillance violant les normes internationalement acceptées, et les technologies dont le but contrevient aux principes largement acceptés du droit international et des droits de l'homme. Cette section était particulièrement notable pour sa position sur les armes autonomes, bien qu'elle n'interdise pas explicitement toutes les applications militaires.
Gouvernance et mise en œuvre
Pour opérationnaliser les principes, Google a établi un processus d'examen éthique de l'IA, y compris une équipe dédiée et un conseil consultatif. L'entreprise publie des rapports annuels détaillant comment elle applique les principes, y compris des études de cas et des métriques. Cependant, la mise en œuvre a rencontré des défis, y compris la dissolution d'un conseil consultatif externe en 2019 après une controverse sur sa composition. Les principes ont été critiqués par certains comme vagues ou insuffisamment contraignants, tandis que d'autres les considèrent comme un pas positif vers la responsabilité des entreprises dans le développement de l'intelligence-artificielle.
Les principes font partie d'une tendance industrielle plus large, avec d'autres organisations comme OpenAI et Anthropic adoptant des cadres éthiques similaires. Ils s'alignent également sur les discussions académiques sur l'éthique de l'apprentissage-automatique, y compris les travaux sur l'équité et la transparence algorithmiques. Les principes ont influencé les décisions de produits de Google, telles que la restriction de certaines fonctionnalités de reconnaissance faciale et le refus de fournir de l'IA pour les systèmes d'armes.
Impact et critiques
Les principes d'IA de Google ont eu un impact significatif sur la gouvernance de l'IA en entreprise, servant de modèle pour d'autres sociétés. Ils ont été cités dans la littérature académique et les débats politiques sur l'éthique de l'IA. Cependant, les critiques soutiennent que les principes manquent de mécanismes d'application contraignants et que la poursuite du travail de Google avec des clients militaires et gouvernementaux soulève des questions sur leur application. Par exemple, le projet Maven n'a pas été renouvelé après la publication des principes, mais Google a continué d'autres contrats liés à la défense, citant l'autorisation des principes pour les applications non liées aux armes.
En 2023, Google a révisé ses principes pour supprimer les engagements explicites à éviter les « armes ou autres technologies dont le but principal est de faciliter les blessures », un changement qui a suscité des critiques de la part des chercheurs en éthique de l'IA. La révision a été perçue comme une réponse aux pressions concurrentielles dans l'industrie de l'IA, en particulier autour des technologies d'ia-generative et de grand-modele-de-langage. Ce mouvement a mis en évidence la tension entre les engagements éthiques et les intérêts commerciaux, un défi auquel sont confrontés de nombreux développeurs d'IA.
Héritage
Les principes d'IA de Google restent un point de référence dans les discussions sur l'IA responsable. Ils ont été comparés à des initiatives similaires de Google DeepMind, qui possède ses propres cadres d'éthique et de sécurité. Les principes recoupent également des efforts plus larges pour réglementer l'IA, tels que la loi sur l'IA de l'Union européenne, qui aborde des préoccupations similaires concernant les biais, la transparence et la responsabilité. Alors que l'IA continue d'évoluer, les principes servent de jalon historique dans l'effort continu pour aligner le progrès technologique sur les valeurs humaines.