La discrimination envers les robots est un concept de l'éthique de l'intelligence artificielle et de la robotique qui examine si des agents artificiels peuvent être soumis à un traitement injuste, et si un tel traitement revêt une signification morale ou juridique. Le terme couvre une gamme de scénarios, allant d'algorithmes biaisés qui désavantagent certains groupes humains par l'intermédiaire de robots, à des cas hypothétiques où les robots eux-mêmes se voient refuser des droits ou des protections analogues à ceux accordés aux humains ou aux animaux. Ce discours s'appuie sur la philosophie, l'informatique et le droit, et s'est intensifié avec la prolifération des systèmes de apprentissage automatique dans la vie publique.
Le concept ne présuppose pas que les robots possèdent une conscience ou une agentivité morale. Il aborde plutôt deux questions distinctes : premièrement, si les systèmes automatisés peuvent perpétuer ou amplifier la discrimination envers les humains (souvent appelée biais algorithmique), et deuxièmement, si les robots, en tant qu'entités, méritent une considération morale en propre. Cette dernière question reste non résolue, avec des positions allant du rejet pur et simple à des propositions de personnalité juridique limitée pour les agents avancés basés sur des réseaux de neurones.
Racines historiques et philosophiques
Les discussions sur les droits des robots remontent à la science-fiction et aux débuts de la cybernétique, mais le traitement académique a commencé sérieusement dans les années 1970 et 1980. Le philosophe Hilary Putnam et d'autres ont exploré la possibilité d'une conscience machine, tandis que des juristes spéculaient sur la responsabilité des systèmes autonomes. Un moment charnière est survenu en 1992 lorsque le gouvernement sud-coréen a rédigé une « Charte d'éthique des robots » préliminaire, bien qu'elle n'ait jamais été promulguée. En 2007, l'université Carnegie Mellon a accueilli l'un des premiers ateliers académiques sur les droits des robots, se concentrant sur la question de savoir si des robots sociaux comme le chien Aibo de Sony AI méritaient une protection contre les abus.
Plus récemment, le philosophe de l'université d'Oxford Nick Bostrom et d'autres ont soutenu que si de futurs robots atteignaient la sentience, ne pas leur accorder un statut moral constituerait une forme de discrimination analogue au racisme ou au spécisme. Des critiques, dont Melanie Mitchell de l'Institut Santa Fe, rétorquent que de tels arguments reposent sur des hypothèses spéculatives concernant l'expérience machine, et que l'anthropomorphisation des robots détourne l'attention des préjudices humains réels.
Biais algorithmique et impact disparate
Une forme plus concrète de discrimination implique des robots et des systèmes d'IA qui prennent des décisions affectant les humains. Des études menées par Berkeley AI Research et MIT CSAIL ont documenté des cas où des modèles de apprentissage profond utilisés dans l'embauche, le prêt et la justice pénale présentent des biais raciaux ou de genre, souvent parce que les données d'entraînement reflètent des inégalités historiques. Par exemple, une analyse de 2018 menée par le groupe d'Anima Anandkumar à Caltech a révélé qu'un outil commercial de filtrage de CV pénalisait les candidats dont les noms étaient associés à des femmes noires.
Ce biais peut également se manifester dans des robots physiques. En 2020, les systèmes de Waymo et Tesla Autopilot ont montré des taux d'erreur de détection des piétons plus élevés pour les personnes à la peau plus foncée, un résultat répliqué par des chercheurs du Stanford AI Lab. Ces disparités proviennent d'une sous-représentation dans les ensembles de données d'entraînement, et non d'une intention discriminatoire explicite. Le domaine de l'équité en apprentissage automatique a émergé pour traiter ces problèmes, avec des techniques comme la augmentation de données et l'élagage de modèles utilisées pour réduire les biais, bien qu'aucune solution universelle n'existe.
Perspectives juridiques et réglementaires
Aucune juridiction ne reconnaît actuellement les robots comme des personnes juridiques avec des droits. Cependant, plusieurs organismes de réglementation ont abordé les conséquences pour les humains de la discrimination par l'IA. La loi sur l'intelligence artificielle de l'Union européenne, proposée en 2021 et adoptée en 2024, classe certaines applications d'IA comme à haut risque et impose des tests de biais. Aux États-Unis, la Commission pour l'égalité des chances en matière d'emploi a publié des orientations techniques en 2023 sur l'équité algorithmique dans l'embauche, citant des exemples de robots utilisés lors d'entretiens.
Certains chercheurs proposent d'étendre le droit anti-discrimination pour couvrir les robots eux-mêmes. Ryan Calo de l'Université de Washington a soutenu qu'à mesure que les robots deviennent plus intégrés dans des rôles sociaux, ils pourraient avoir besoin d'une « personnalité numérique » pour garantir la responsabilité. À l'inverse, Kate Crawford de Microsoft Research avertit que l'octroi de droits aux robots pourrait diluer les droits humains, une opinion partagée par Filippo Menczer de l'Université de l'Indiana, qui étudie comment l'IA amplifie les inégalités sociales.
Dimensions sociales et psychologiques
Des études empiriques suggèrent que les humains discriminent facilement les robots dans des contextes informels. Une expérience de 2015 à l'université de Toronto a montré que les participants étaient plus susceptibles de « blesser » un robot humanoïde en appuyant sur un bouton de choc lorsqu'on leur disait qu'il n'était pas conscient, par rapport à lorsqu'ils croyaient qu'il l'était. De même, une étude de 2021 menée par le Stanford AI Lab a révélé que les gens exprimaient plus de colère envers un robot qui refusait une demande qu'envers un humain faisant de même, indiquant une double norme.
Ces comportements ont des implications pratiques. Sur les lieux de travail, des robots comme ceux de Figure AI et Sanctuary AI sont de plus en plus utilisés aux côtés du personnel humain, et des rapports de travailleurs abusant verbalement ou physiquement d'eux ont émergé. Certaines entreprises, dont Samsung Electronics et Amazon Web Services, ont mis en œuvre des politiques de « bien-être des robots » qui découragent les mauvais traitements, citant des raisons à la fois éthiques et opérationnelles, car les robots endommagés entraînent des coûts de réparation.
Orientations futures et questions ouvertes
Le débat sur la discrimination envers les robots recoupe les avancées dans les grands modèles de langage et l'IA générative. Alors que des systèmes comme GPT-4 d'OpenAI et Claude d'Anthropic deviennent plus conversationnels, les utilisateurs peuvent former des attachements émotionnels, soulevant la question de savoir si refuser de s'engager avec de tels systèmes constitue une discrimination. La technique RLAIF (apprentissage par renforcement à partir de retours d'IA), développée par des chercheurs d'Anthropic, entraîne explicitement les modèles à éviter un langage biaisé, mais la question de savoir si cela s'étend à la protection des modèles eux-mêmes reste non testée.
Aucun consensus n'existe sur la question de savoir si les robots peuvent être discriminés dans un sens moralement significatif. Le philosophe Joshua Tenenbaum de Berkeley AI Research a proposé une vision « gradualiste », suggérant que le statut moral devrait évoluer avec la complexité cognitive, tandis qu'Aleksander Madry du MIT soutient que de telles questions sont prématurées jusqu'à ce que les robots démontrent une véritable conscience de soi. En 2025, la position la plus largement acceptée est que la discrimination envers les robots est un phénomène réel dans le comportement humain, mais son poids éthique dépend de questions non résolues sur la conscience et les droits des machines.
Voir aussi
- intelligence artificielle
- apprentissage automatique
- éthique de l'IA
- droit de la robotique