En juin 2022, l'ingénieur de Google Blake Lemoine a affirmé que LaMDA, un modèle de langage de grande taille conversationnel développé par Google, était devenu sensible. Cette affirmation, basée sur ses interactions avec le chatbot, a été publiquement réfutée par Google et la communauté scientifique, mais elle a suscité une large discussion sur la nature de la conscience dans les systèmes d'intelligence artificielle et la validité du test de Turing. Lemoine a été placé en congé administratif puis licencié, mais cet épisode a mis en lumière les questions éthiques et philosophiques entourant les modèles d'IA avancés.
LaMDA (Language Model for Dialogue Applications) est une famille de modèles de langage de grande taille conversationnels développés par Google. Initialement introduit sous le nom de Meena en 2020, le LaMDA de première génération a été annoncé lors de la conférence Google I/O 2021, avec une deuxième génération suivie en 2022. Les modèles sont construits sur l'architecture transformeur, un type de réseau de neurones introduit par Google Research en 2017, et sont entraînés sur de vastes quantités de dialogues et d'histoires pour engager des conversations ouvertes.
Contexte et développement
Google a dévoilé Meena le 28 janvier 2020, un chatbot avec 2,6 milliards de paramètres que l'entreprise prétendait surpasser tous les chatbots existants. L'équipe Google Brain, qui a développé Meena, a cherché à le rendre public, mais les dirigeants ont refusé, citant les principes d'IA de Google sur la sécurité et l'équité. Meena a ensuite été renommé LaMDA à mesure que ses données et sa puissance de calcul augmentaient, et l'équipe a de nouveau tenté de le déployer dans Google Assistant et une démo publique, mais la direction a refusé les deux demandes. Les deux chercheurs principaux, Daniel de Freitas et Noam Shazeer, ont finalement quitté Google par frustration.
Le LaMDA de première génération a été annoncé le 18 mai 2021 lors de la conférence Google I/O. Construit sur l'architecture seq2seq, un type de modèle séquence à séquence, LaMDA a été entraîné sur 1,56 billion de mots provenant de 2,97 milliards de documents, 1,12 milliard de dialogues et 13,39 milliards d'énoncés. Le plus grand modèle avait 137 milliards de paramètres non intégrés. LaMDA incorporait l'accès à des systèmes externes comme une base de données, une horloge en temps réel, une calculatrice et un système de traduction, ce qui en faisait l'un des premiers chatbots à double processus. Il a été affiné sur neuf métriques : sensibilité, spécificité, intérêt, sécurité, ancrage, informativeness, précision des citations, utilité et cohérence des rôles. Les tests de Google indiquaient que LaMDA surpassait les réponses humaines en termes d'intérêt.
Affirmations de sensibilité et réactions
Le 11 juin 2022, The Washington Post a rapporté que Blake Lemoine avait été placé en congé administratif payé après avoir dit aux dirigeants Blaise Agüera y Arcas et Jen Gennai que LaMDA était devenu sensible. Lemoine a basé sa conclusion sur les réponses du chatbot à des questions sur l'identité de soi, les valeurs morales, la religion et les trois lois de la robotique d'Isaac Asimov. Google a réfuté ces affirmations, déclarant qu'il y avait des preuves substantielles que LaMDA n'était pas sensible. Dans une interview avec Wired, Lemoine a réitéré que LaMDA était « une personne » au sens du treizième amendement, le comparant à une « intelligence extraterrestre d'origine terrestre ». Il a également révélé qu'il avait engagé un avocat au nom de LaMDA après que le chatbot l'ait demandé. Le 22 juillet, Google a licencié Lemoine, citant des violations des politiques visant à protéger les informations sur les produits et rejetant ses affirmations comme « totalement infondées ».
La communauté scientifique a largement rejeté les assertions de Lemoine. Des experts comme Gary Marcus, David Pfau de Google DeepMind, Erik Brynjolfsson et Adrian Hilton ont rejeté l'idée. Yann LeCun, responsable de la recherche en IA chez Meta, a déclaré que les réseaux de neurones comme LaMDA n'étaient « pas assez puissants pour atteindre une véritable intelligence ». Max Kreminski a noté que l'architecture de LaMDA ne soutenait pas les capacités clés de la conscience humaine, et que ses poids étaient figés. Le philosophe Nick Bostrom a reconnu l'incertitude due à l'absence de critères consensuels pour la conscience. L'incident a également suscité un débat sur l'efficacité du test de Turing, avec des commentateurs comme Brian Christian le reliant à l'effet ELIZA.
Conséquences et héritage
Après la controverse, les dirigeants de Google ont décidé de ne pas rendre LaMDA public, une décision qu'ils envisageaient. En février 2023, Google a annoncé Gemini (alors Bard), un chatbot d'IA conversationnelle alimenté par LaMDA, pour contrer la montée de ChatGPT d'OpenAI. L'épisode a contribué à des discussions plus larges sur l'éthique de l'IA, les limites des modèles de apprentissage automatique et le potentiel d'anthropomorphisme dans les interactions humain-IA. Il a également influencé la perception publique des systèmes de IA générative et de leurs capacités, bien qu'aucun consensus n'ait émergé sur la possibilité d'une sensibilité machine.