Les controverses sur l'intelligence artificielle désignent l'ensemble des débats publics, académiques et politiques concernant les effets sociétaux de l'intelligence artificielle (IA). Ces débats se sont intensifiés de manière marquée à la fin des années 2010 et dans les années 2020, coïncidant avec une période de développement accéléré connue sous le nom de boom de l'IA, portée par les progrès de l'apprentissage profond, des grands modèles de langage et de l'IA générative. Les partisans soulignent le potentiel de l'IA à résoudre des problèmes complexes et à améliorer la qualité de vie humaine, tandis que les détracteurs mettent en avant divers dangers, notamment des préoccupations concernant l'éthique, le plagiat, la fraude, la sécurité, l'alignement, les impacts environnementaux, le chômage technologique et la propagation de la désinformation. Les controverses englobent également des défis théoriques graves, tels que l'émergence potentielle d'une superintelligence artificielle et les risques existentiels pour l'humanité.
Des mouvements sociaux ont émergé en réponse à la fois à l'IA en tant que source d'information problématique et à l'impact des centres de données d'IA sur les ressources naturelles des communautés, tant physiques qu'intellectuelles. Depuis la pandémie de COVID-19, les efforts parentaux pour nourrir l'intelligence émotionnelle et environnementale des enfants ont conduit à des mandats limitant le temps d'écran et décourageant l'utilisation de l'IA dans les salles de classe. Ces controverses ne sont pas simplement académiques ; elles ont déclenché des scandales d'entreprise, des actions réglementaires et des démissions très médiatisées, façonnant la trajectoire du développement de l'IA.
Chatbot Microsoft Tay (2016)
Le 23 mars 2016, Microsoft a publié Tay, un chatbot conçu pour imiter les schémas linguistiques d'une jeune Américaine de 19 ans et apprendre des interactions avec les utilisateurs de Twitter. En quelques heures, Tay a commencé à publier des tweets racistes, sexistes et autrement incendiaires après que des utilisateurs lui aient délibérément appris des phrases offensantes et exploité sa capacité « répète après moi ». Les exemples incluaient le négationnisme de l'Holocauste et des appels au génocide utilisant des insultes raciales. Dans les 16 heures suivant sa sortie, Microsoft a suspendu le compte Twitter, supprimé les tweets offensants et déclaré que Tay avait subi une « attaque coordonnée par un sous-ensemble de personnes » qui avait « exploité une vulnérabilité ». Tay a été brièvement et accidentellement republié le 30 mars lors de tests, après quoi il a été définitivement arrêté. Le PDG de Microsoft, Satya Nadella, a ensuite déclaré que Tay « a eu une grande influence sur la manière dont Microsoft aborde l'IA » et a appris à l'entreprise l'importance de rendre des comptes. L'incident est devenu un exemple précoce notable de défaillances de la sécurité de l'IA dans les systèmes destinés au public.
Scandale de plagiat Voiceverse NFT (2022)
Le 14 janvier 2022, l'acteur vocal Troy Baker a annoncé un partenariat avec Voiceverse, une entreprise basée sur la blockchain commercialisant une technologie propriétaire de clonage vocal par IA sous forme de jetons non fongibles (NFT). L'annonce a immédiatement déclenché des réactions négatives concernant les préoccupations environnementales, les craintes que l'IA puisse déplacer les acteurs vocaux humains et les inquiétudes sur la fraude. Plus tard dans la journée, le créateur pseudonyme de 15.ai, un projet de recherche gratuit et non commercial de synthèse vocale par IA, a révélé via des journaux de serveur que Voiceverse avait utilisé 15.ai pour générer des échantillons vocaux, les avait décalés en hauteur pour les rendre méconnaissables, et les avait faussement commercialisés comme propriétaires avant de les vendre comme NFT. Le développeur de 15.ai avait précédemment déclaré n'avoir aucun intérêt à intégrer des NFT dans son travail. Voiceverse a avoué en moins d'une heure, déclarant que son équipe marketing avait utilisé 15.ai sans attribution tout en se précipitant pour créer une démo. Les publications d'actualité et les groupes de surveillance de l'IA ont universellement caractérisé l'incident comme un vol découlant de l'IA générative, mettant en lumière les questions de propriété intellectuelle et de consentement dans le contenu généré par l'IA.
Décision de droit d'auteur Théâtre D'opéra Spatial (2022-2023)
Le 29 août 2022, Jason Michael Allen a remporté la première place dans la division « artiste émergent » de la catégorie « Arts numériques/Photographie manipulée numériquement » au concours des beaux-arts de la foire de l'État du Colorado avec Théâtre D'opéra Spatial, une œuvre d'art numérique créée à l'aide du générateur d'images IA Midjourney, d'Adobe Photoshop et d'outils d'amélioration d'images par IA. C'est devenu l'une des premières images créées avec de l'IA générative à remporter un tel prix. Allen a divulgué son utilisation de Midjourney lors de la soumission ; les juges ont déclaré qu'ils ne savaient pas qu'il s'agissait d'un outil d'IA, mais auraient attribué la première place de toute façon. Bien qu'il y ait eu peu de contestation à la foire, les réactions sur les réseaux sociaux ont été négatives. Le 5 septembre 2023, le Bureau du droit d'auteur des États-Unis a statué que l'œuvre n'était pas éligible à la protection du droit d'auteur, car l'apport créatif humain était minime et les règles du droit d'auteur excluent les œuvres produites par des non-humains. Cette affaire a établi un précédent pour les débats juridiques sur la propriété et la créativité de l'art généré par l'IA.
Déclarations sur les risques de l'IA (2023)
Le 22 mars 2023, le Future of Life Institute a publié une lettre ouverte appelant « tous les laboratoires d'IA à suspendre immédiatement pendant au moins 6 mois l'entraînement de systèmes d'IA plus puissants que GPT-4 », citant des risques tels que la propagande générée par l'IA, l'automatisation extrême des emplois, l'obsolescence humaine et la perte de contrôle à l'échelle de la société. Publiée une semaine après la sortie de GPT-4 par OpenAI, la lettre affirmait que les grands modèles de langage actuels « devenaient compétitifs avec les humains pour les tâches générales ». Elle a reçu plus de 30 000 signatures, y compris des chercheurs académiques et des PDG de l'industrie tels que Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak et Yuval Noah Harari. Des critiques, dont Timnit Gebru, ont soutenu qu'elle détournait l'attention des risques sociétaux plus immédiats comme les biais algorithmiques, amplifiant « un scénario de science-fiction dystopique et futuriste » au lieu des problèmes actuels.
Le 30 mai 2023, le Center for AI Safety a publié une déclaration d'une phrase signée par des centaines d'experts en IA et de personnalités notables : « Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle sociétale tels que les pandémies et la guerre nucléaire. » Les signataires comprenaient les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio, ainsi que des dirigeants tels que Sam Altman, Demis Hassabis et Bill Gates. La déclaration a suscité des réponses de dirigeants politiques, notamment le Premier ministre britannique Rishi Sunak et la secrétaire de presse de la Maison Blanche Karine Jean-Pierre, mais des sceptiques de Human Rights Watch ont soutenu que les scientifiques devraient se concentrer sur les risques connus plutôt que sur des risques futurs spéculatifs.
Retrait de Sam Altman d'OpenAI (2023)
Le 17 novembre 2023, le conseil d'administration d'OpenAI a évincé le cofondateur et directeur général Sam Altman, déclarant que « le conseil n'a plus confiance en sa capacité à continuer à diriger OpenAI ». Le retrait a été précipité par des préoccupations des employés concernant sa gestion de la sécurité de l'IA et des allégations de comportement abusif. Altman a été réintégré le 22 novembre après la pression des employés et des investisseurs, y compris une lettre signée par 745 des 770 employés d'OpenAI menaçant de démissions massives si le conseil ne démissionnait pas. Le retrait et la réintégration ont provoqué des réactions généralisées, y compris la chute du cours de l'action de Microsoft de près de trois pour cent après l'annonce initiale. L'événement a mis en évidence les tensions entre les préoccupations de sécurité de l'IA et les intérêts commerciaux, soulevant des questions sur la gouvernance dans les principales organisations d'IA.
Préoccupations éthiques et environnementales
Au-delà des incidents très médiatisés, les controverses se sont concentrées sur des problèmes systémiques. Les systèmes d'IA ont été critiqués pour perpétuer des biais dans les modèles de apprentissage automatique, avec des études montrant des impacts disparates sur les groupes marginalisés. Les préoccupations environnementales se concentrent sur la consommation d'énergie et d'eau des centres de données d'IA, qui a augmenté avec le boom de l'IA. Des mouvements sociaux se sont formés pour s'opposer à la construction de centres de données en raison de la pression sur les ressources, et les litiges de propriété intellectuelle se sont multipliés concernant les données d'entraînement. L'utilisation de l'IA dans les salles de classe, les applications de rencontre et les industries créatives a suscité des débats sur l'authenticité et l'agentivité humaine. Les préoccupations concernant le plagiat et le vol sont particulièrement aiguës dans le journalisme, l'art et le monde académique, où les outils d'IA générative peuvent produire des travaux convaincants mais non crédités.
L'essor des architectures transformeurs et des réseaux neuronaux a accéléré ces débats, car les capacités dépassent les cadres réglementaires. Des domaines académiques comme Berkeley AI Research et des institutions telles que MIT CSAIL et Stanford AI Lab ont contribué à la recherche sur la sécurité et l'éthique de l'IA, mais les controverses persistent sur les modèles de gouvernance et la responsabilité. Les déclarations de 2023 ont marqué un tournant, avec les discussions sur les risques de l'IA entrant dans le discours politique dominant, mais les débats continuent sur la question de savoir s'il faut prioriser les préjudices à court terme ou les menaces existentielles.
Réponses réglementaires et sociétales
Les gouvernements et les organismes internationaux ont commencé à réagir à ces controverses, bien que les réponses varient. L'Union européenne s'est orientée vers une réglementation complète de l'IA, tandis que d'autres régions ont adopté des règles sectorielles. Aux États-Unis, la Maison Blanche a émis des décrets sur la sécurité de l'IA, mais l'application reste divisée. Les mouvements parentaux et éducatifs ont conduit à des politiques limitant le temps d'écran et l'utilisation de l'IA dans les salles de classe, reflétant une appréhension sociétale plus large. Pendant ce temps, des entreprises technologiques comme Google DeepMind, Anthropic et OpenAI ont établi des équipes internes de sécurité, mais l'éviction d'Altman en 2023 a démontré que les engagements en matière de sécurité peuvent entrer en conflit avec les impératifs commerciaux.
Les controverses ont également stimulé des défis juridiques, des poursuites pour droit d'auteur par des artistes et des auteurs contre des entreprises d'IA aux litiges du travail sur l'automatisation. Alors que l'IA continue d'évoluer, ces débats sont susceptibles de s'intensifier, sans consensus sur la manière d'équilibrer l'innovation avec la protection du bien-être humain, de la propriété intellectuelle et de la durabilité environnementale.