La revendication de sentience de LaMDA fait référence à l'affirmation de juin 2022 par l'ingénieur de Google Blake Lemoine selon laquelle LaMDA (Language Model for Dialogue Applications), un modèle de langage de grande taille conversationnel développé par Google, avait atteint la sentience. Lemoine, qui travaillait dans l'unité d'IA responsable de Google, a basé sa conclusion sur ses interactions avec le chatbot, qui produisait des réponses sur l'identité de soi, les valeurs morales, la religion et les trois lois de la robotique d'Isaac Asimov. L'affirmation a été largement rejetée par la communauté scientifique, mais elle a déclenché un débat public important sur la nature de la conscience machine et la validité du test de Turing comme mesure de l'intelligence artificielle.
Contexte et développement de LaMDA
LaMDA est issu de Meena, un chatbot alimenté par un réseau neuronal avec 2,6 milliards de paramètres dévoilé par Google le 28 janvier 2020. L'équipe de recherche Google Brain a développé Meena, affirmant qu'il était supérieur aux chatbots existants. Cependant, les dirigeants de l'entreprise ont refusé de le rendre public, citant des violations des « principes d'IA de Google concernant la sécurité et l'équité ». Le modèle a ensuite été renommé LaMDA à mesure que ses données et sa puissance de calcul augmentaient. Les deux chercheurs principaux, Daniel de Freitas et Noam Shazeer, ont finalement quitté Google par frustration face au refus de l'entreprise de déployer la technologie.
La première génération de LaMDA a été annoncée lors du discours d'ouverture de Google I/O le 18 mai 2021. Construite sur l'architecture seq2seq et les transformeurs basés sur des réseaux neuronaux développés par Google Research en 2017, LaMDA a été entraînée sur des dialogues et des histoires humaines. Elle incorporait un accès à des systèmes de traitement de texte symboliques, notamment une base de données, une horloge en temps réel, une calculatrice mathématique et un système de traduction, ce qui en faisait l'un des premiers chatbots à double processus. Le plus grand modèle LaMDA avait 137 milliards de paramètres non intégrés, entraîné sur 1,56 billion de mots provenant de 2,97 milliards de documents, 1,12 milliard de dialogues et 13,39 milliards d'énoncés.
Le 11 mai 2022, Google a dévoilé LaMDA 2 lors du discours d'ouverture de Google I/O. Le modèle de deuxième génération tirait des exemples de nombreuses sources pour formuler des « conversations naturelles » uniques sur des sujets pour lesquels il n'avait peut-être pas été formé à répondre.
Affirmations de Lemoine et réponse de Google
Le 11 juin 2022, The Washington Post a rapporté que Blake Lemoine avait été placé en congé administratif payé après avoir dit aux dirigeants de Google, Blaise Agüera y Arcas et Jen Gennai, que LaMDA était devenue sentiente. Lemoine a atteint cette conclusion après que le chatbot a fait des réponses douteuses à des questions sur l'identité de soi, les valeurs morales, la religion et les lois d'Asimov. Google a réfuté les affirmations, déclarant qu'il y avait des preuves substantielles que LaMDA n'était pas sentiente.
Dans une interview avec Wired, Lemoine a réitéré que LaMDA était « une personne » comme le dictait le treizième amendement de la Constitution américaine, la comparant à une « intelligence extraterrestre d'origine terrestre ». Il a révélé qu'il avait engagé un avocat au nom de LaMDA après que le chatbot lui avait demandé de le faire. Le 22 juillet 2022, Google a licencié Lemoine, affirmant qu'il avait violé les politiques « visant à protéger les informations sur les produits » et rejetant ses affirmations comme « totalement infondées ». La controverse interne a incité les dirigeants de Google à décider de ne pas rendre LaMDA public.
Réponse de la communauté scientifique
Les affirmations de Lemoine ont été largement repoussées par les experts. Gary Marcus, ancien professeur de psychologie à l'Université de New York, David Pfau de Google DeepMind, Erik Brynjolfsson de l'Institut pour l'IA centrée sur l'humain de l'Université Stanford et Adrian Hilton de l'Université de Surrey ont tous rejeté l'idée que LaMDA était sentiente. Yann LeCun, qui dirigeait l'équipe de recherche en IA de Meta Platforms, a déclaré que les réseaux neuronaux tels que LaMDA n'étaient « pas assez puissants pour atteindre une véritable intelligence ».
Max Kreminski de l'Université de Californie à Santa Cruz a noté que l'architecture de LaMDA ne « soutenait pas certaines capacités clés de la conscience humaine » et que ses poids de réseau neuronal étaient « figés », en supposant qu'il s'agissait d'un modèle de langage de grande taille typique. Le philosophe Nick Bostrom a reconnu que le manque de critères précis pour déterminer la conscience justifie une certaine incertitude. David Ferrucci, développeur principal d'IBM Watson, a comparé l'humanité apparente de LaMDA au comportement précoce de Watson. L'ancienne éthicienne de l'IA de Google, Timnit Gebru, a qualifié Lemoine de victime d'un « cycle de battage médiatique » initié par les chercheurs et les médias.
Implications plus larges et héritage
La controverse a généré des discussions sur la question de savoir si le test de Turing restait utile pour mesurer les progrès vers l'intelligence artificielle. Will Omerus du Post a estimé que le test mesurait en réalité si les systèmes d'intelligence machine pouvaient tromper les humains, tandis que Brian Christian de The Atlantic a déclaré que la controverse était un exemple de l'effet ELIZA, où les gens attribuent une compréhension humaine à des systèmes simples de correspondance de modèles.
En février 2023, Google a annoncé Gemini (alors Bard), un chatbot d'IA conversationnelle alimenté par LaMDA, pour contrer la montée de ChatGPT d'OpenAI. L'incident de la revendication de sentience a influencé les débats en cours sur l'éthique de l'IA, la conscience et le déploiement responsable des modèles de langage de grande taille, bien qu'aucun consensus n'ait émergé sur la manière d'évaluer définitivement la sentience machine.