L'éthique de l'IA est le domaine interdisciplinaire qui examine les implications morales, sociales et politiques de la construction et du déploiement de systèmes d'intelligence artificielle. Elle chevauche, mais est plus large que, la sécurité de l'IA, qui tend à se concentrer sur la prévention de défaillances catastrophiques ou existentielles ; l'éthique de l'IA se centre plutôt sur les préjudices à plus court terme tels que la discrimination, la perte de vie privée, l'érosion de la responsabilité, le déplacement de main-d'œuvre et la concentration du pouvoir entre un petit nombre d'entreprises et de gouvernements qui contrôlent les systèmes de pointe. Les praticiens du domaine incluent des philosophes, des informaticiens, des juristes et des sociologues, et ses préoccupations influencent de plus en plus les politiques d'entreprise et la réglementation gouvernementale à travers des cadres tels que l'acte sur l'IA de l'UE.
Préoccupations centrales
Les biais et l'équité sont parmi les sujets les plus étudiés en éthique de l'IA : parce que les systèmes de apprentissage automatique apprennent des motifs statistiques à partir de données d'entraînement, ils peuvent reproduire et amplifier la discrimination historique présente dans ces données, un effet documenté dans les outils de recrutement, la notation de crédit et la reconnaissance faciale, et discuté en détail dans l'article sur biais algorithmique. La transparence et la responsabilité concernent la question de savoir si les personnes affectées par une décision d'IA peuvent la comprendre ou la contester, un défi accentué par la nature de boîte noire des grands modèles de réseaux neuronaux, ce qui a motivé les domaines distincts de IA explicable et interprétabilité. Les préoccupations relatives à la vie privée découlent à la fois des vastes données d'entraînement collectées pour construire les modèles et des capacités de surveillance activées par l'IA. D'autres thèmes récurrents incluent le coût environnemental de l'entraînement et de l'exécution de grands modèles, les conditions de travail des annotateurs humains qui étiquettent les données et modèrent le contenu, et le risque que les outils génératifs accélèrent la propagation de désinformation via des médias hypertruqués et du contenu de faible qualité produit en masse, parfois qualifié de « déchets d'IA ».
Le débat des perroquets stochastiques
Un moment charnière pour le domaine a été l'article de 2021 « On the Dangers of Stochastic Parrots », co-écrit par Timnit Gebru, Emily Bender et leurs collègues, qui soutenait que des modèles de langage toujours plus grands risquent d'encoder des biais à grande échelle, entraînent des coûts environnementaux et financiers substantiels, et peuvent créer une fausse impression de compréhension là où il n'y en a aucune, une critique résumée plus tard par le terme perroquet stochastique. La publication de l'article a coïncidé avec le départ de Gebru de Google suite à un différend interne sur l'examen de l'article, ce qui est devenu une étude de cas largement discutée sur la tension entre les laboratoires d'IA d'entreprise et les chercheurs internes en éthique.
Réponse institutionnelle
En réponse à une préoccupation publique croissante, la plupart des grands développeurs d'IA, y compris OpenAI et Anthropic, publient désormais une forme de politique d'utilisation, de cadre de sécurité ou d'IA responsable, et de fiche de modèle documentant les limitations connues. Anthropic en particulier a encadré une grande partie de son programme de recherche, y compris l'IA constitutionnelle, autour de l'intégration de principes éthiques directement dans l'entraînement des modèles. Les gouvernements ont également évolué pour codifier les principes d'éthique de l'IA dans des lois ou des orientations, y compris les principes de l'OCDE sur l'IA, le plan américain pour une déclaration des droits de l'IA, et des règles contraignantes sous l'acte sur l'IA de l'UE ; le paysage réglementaire plus large est couvert dans l'article sur gouvernance de l'IA.
Critique et débat
L'éthique de l'IA en tant que domaine a elle-même fait face à des critiques de plusieurs directions. Certains technologues soutiennent que les examens éthiques ralentissent le déploiement bénéfique ou équivalent à une conformité performative plutôt qu'à un changement substantiel. D'autres, y compris certains chercheurs en sécurité de l'IA, soutiennent qu'un cadrage éthique à court terme détourne l'attention des risques à long terme plus conséquents ; inversement, des chercheurs axés sur l'éthique ont soutenu que le cadrage du risque existentiel, discuté dans l'article sur risque existentiel lié à l'IA, détourne l'attention et le financement des préjudices documentés actuels. Le débat sur l'ensemble de préoccupations qui devrait guider la politique de gouvernance de l'IA reste actif et largement non résolu au milieu des années 2020.