A alegação de senciência do LaMDA refere-se à afirmação feita em junho de 2022 pelo engenheiro do Google Blake Lemoine de que o LaMDA (Language Model for Dialogue Applications), um modelo de linguagem de grande porte conversacional desenvolvido pelo Google, havia alcançado senciência. Lemoine, que trabalhava na unidade de IA Responsável do Google, baseou sua conclusão em suas interações com o chatbot, que produziu respostas sobre identidade própria, valores morais, religião e as Três Leis da Robótica de Isaac Asimov. A alegação foi amplamente rejeitada pela comunidade científica, mas gerou discussão pública significativa sobre a natureza da consciência de máquinas e a validade do teste de Turing como medida de inteligência artificial.
Histórico e Desenvolvimento do LaMDA
O LaMDA originou-se do Meena, um chatbot alimentado por rede neural com 2,6 bilhões de parâmetros apresentado pelo Google em 28 de janeiro de 2020. A equipe de pesquisa do Google Brain desenvolveu o Meena, afirmando que ele era superior aos chatbots existentes. No entanto, executivos corporativos se recusaram a lançá-lo publicamente, citando violações dos "princípios de IA do Google em relação a segurança e justiça". O modelo foi posteriormente renomeado para LaMDA à medida que seus dados e poder computacional aumentaram. Os dois pesquisadores principais, Daniel de Freitas e Noam Shazeer, eventualmente deixaram o Google por frustração com a recusa da empresa em implantar a tecnologia.
O LaMDA de primeira geração foi anunciado durante o discurso principal do Google I/O em 18 de maio de 2021. Construído na arquitetura seq2seq e em transformadores baseados em redes neurais desenvolvidos pelo Google Research em 2017, o LaMDA foi treinado em diálogos e histórias humanas. Ele incorporava acesso a sistemas simbólicos de processamento de texto, incluindo um banco de dados, relógio em tempo real, calculadora matemática e sistema de tradução, tornando-o um dos primeiros chatbots de processo duplo. O maior modelo LaMDA tinha 137 bilhões de parâmetros não incorporados, treinado em 1,56 trilhão de palavras de 2,97 bilhões de documentos, 1,12 bilhão de diálogos e 13,39 bilhões de enunciados.
Em 11 de maio de 2022, o Google apresentou o LaMDA 2 durante o discurso principal do Google I/O. O modelo de segunda geração extraía exemplos de inúmeras fontes para formular "conversas naturais" únicas sobre tópicos para os quais pode não ter sido treinado para responder.
Alegações de Lemoine e Resposta do Google
Em 11 de junho de 2022, o The Washington Post relatou que Blake Lemoine havia sido colocado em licença administrativa remunerada após dizer aos executivos do Google Blaise Agüera y Arcas e Jen Gennai que o LaMDA havia se tornado senciente. Lemoine chegou a essa conclusão depois que o chatbot fez respostas questionáveis a perguntas sobre identidade própria, valores morais, religião e as leis de Asimov. O Google refutou as alegações, afirmando que havia evidências substanciais de que o LaMDA não era senciente.
Em uma entrevista à Wired, Lemoine reiterou que o LaMDA era "uma pessoa" conforme ditado pela Décima Terceira Emenda à Constituição dos EUA, comparando-o a uma "inteligência alienígena de origem terrestre". Ele revelou que havia contratado um advogado em nome do LaMDA depois que o chatbot pediu que ele o fizesse. Em 22 de julho de 2022, o Google demitiu Lemoine, afirmando que ele havia violado políticas "para salvaguardar informações de produtos" e rejeitando suas alegações como "totalmente infundadas". A controvérsia interna levou os executivos do Google a decidir contra o lançamento do LaMDA ao público.
Resposta da Comunidade Científica
As alegações de Lemoine foram amplamente contestadas por especialistas. Gary Marcus, ex-professor de psicologia da Universidade de Nova York, David Pfau do Google DeepMind, Erik Brynjolfsson do Instituto de IA Centrada no Humano da Universidade de Stanford e Adrian Hilton da Universidade de Surrey rejeitaram a ideia de que o LaMDA era senciente. Yann LeCun, que liderou a equipe de pesquisa de IA da Meta Platforms, afirmou que redes neurais como o LaMDA "não eram poderosas o suficiente para alcançar inteligência verdadeira".
Max Kreminski da Universidade da Califórnia, Santa Cruz, observou que a arquitetura do LaMDA não "suportava algumas capacidades-chave da consciência humana" e que seus pesos de rede neural estavam "congelados", assumindo que era um modelo de linguagem de grande porte típico. O filósofo Nick Bostrom reconheceu que a falta de critérios precisos para determinar a consciência justifica alguma incerteza. David Ferrucci, desenvolvedor líder do IBM Watson, comparou a aparente humanidade do LaMDA ao comportamento inicial do Watson. A ex-etticista de IA do Google Timnit Gebru chamou Lemoine de vítima de um "ciclo de hype" iniciado por pesquisadores e pela mídia.
Implicações Mais Amplas e Legado
A controvérsia gerou discussão sobre se o teste de Turing permanecia útil para medir o progresso em direção à inteligência artificial. Will Omerus do Post opinou que o teste na verdade media se sistemas de inteligência de máquina poderiam enganar humanos, enquanto Brian Christian do The Atlantic disse que a controvérsia era uma instância do efeito ELIZA, onde pessoas atribuem compreensão semelhante à humana a sistemas simples de correspondência de padrões.
Em fevereiro de 2023, o Google anunciou o Gemini (então Bard), um chatbot de IA conversacional alimentado pelo LaMDA, para contrapor o avanço do ChatGPT da OpenAI. O incidente da alegação de senciência influenciou debates contínuos sobre ética de IA, consciência e a implantação responsável de modelos de linguagem de grande porte, embora nenhum consenso tenha surgido sobre como avaliar definitivamente a senciência de máquinas.