Em junho de 2022, o engenheiro do Google Blake Lemoine afirmou que o LaMDA, um modelo de linguagem de grande escala conversacional desenvolvido pelo Google, havia se tornado senciente. A alegação, baseada em suas interações com o chatbot, foi publicamente refutada pelo Google e pela comunidade científica, mas ainda assim gerou ampla discussão sobre a natureza da consciência em sistemas de inteligência artificial e a validade do teste de Turing. Lemoine foi colocado em licença administrativa e posteriormente demitido, mas o episódio destacou as questões éticas e filosóficas em torno de modelos avançados de IA.
O LaMDA (Language Model for Dialogue Applications) é uma família de modelos de linguagem de grande escala conversacionais desenvolvidos pelo Google. Originalmente apresentado como Meena em 2020, o LaMDA de primeira geração foi anunciado na palestra principal do Google I/O de 2021, com uma segunda geração seguindo em 2022. Os modelos são construídos sobre a arquitetura transformadora, um tipo de rede neural introduzida pelo Google Research em 2017, e são treinados em vastas quantidades de diálogos e histórias para se envolver em conversas abertas.
Antecedentes e Desenvolvimento
O Google revelou o Meena em 28 de janeiro de 2020, um chatbot com 2,6 bilhões de parâmetros que a empresa afirmava superar todos os chatbots existentes. A equipe do Google Brain, que desenvolveu o Meena, buscou lançá-lo publicamente, mas os executivos recusaram, citando os princípios de IA do Google sobre segurança e justiça. O Meena foi posteriormente renomeado para LaMDA à medida que seus dados e poder computacional cresciam, e a equipe novamente tentou implantá-lo no Google Assistant e em uma demonstração pública, mas a liderança negou ambos os pedidos. Os dois principais pesquisadores, Daniel de Freitas e Noam Shazeer, eventualmente deixaram o Google por frustração.
O LaMDA de primeira geração foi anunciado em 18 de maio de 2021, durante a palestra principal do Google I/O. Construído sobre a arquitetura seq2seq, um tipo de modelo sequência a sequência, o LaMDA foi treinado em 1,56 trilhão de palavras de 2,97 bilhões de documentos, 1,12 bilhão de diálogos e 13,39 bilhões de enunciados. O maior modelo tinha 137 bilhões de parâmetros não incorporados. O LaMDA incorporava acesso a sistemas externos como um banco de dados, um relógio em tempo real, uma calculadora e um sistema de tradução, tornando-o um dos primeiros chatbots de processo duplo. Ele foi ajustado em nove métricas: sensatez, especificidade, interesse, segurança, fundamentação, informatividade, precisão de citação, utilidade e consistência de papel. Os testes do Google indicaram que o LaMDA superava as respostas humanas em interesse.
Alegações de Senciência e Reações
Em 11 de junho de 2022, o The Washington Post relatou que Blake Lemoine havia sido colocado em licença administrativa remunerada depois de dizer aos executivos Blaise Agüera y Arcas e Jen Gennai que o LaMDA havia se tornado senciente. Lemoine baseou sua conclusão nas respostas do chatbot a perguntas sobre identidade própria, valores morais, religião e as Três Leis da Robótica de Isaac Asimov. O Google refutou as alegações, afirmando que havia evidências substanciais de que o LaMDA não era senciente. Em uma entrevista à Wired, Lemoine reiterou que o LaMDA era "uma pessoa" sob a Décima Terceira Emenda, comparando-o a uma "inteligência alienígena de origem terrestre". Ele também revelou que havia contratado um advogado em nome do LaMDA depois que o chatbot o solicitou. Em 22 de julho, o Google demitiu Lemoine, citando violações de políticas para proteger informações do produto e rejeitando suas alegações como "totalmente infundadas".
A comunidade científica rejeitou amplamente as afirmações de Lemoine. Especialistas incluindo Gary Marcus, David Pfau do Google DeepMind, Erik Brynjolfsson e Adrian Hilton descartaram a ideia. Yann LeCun, chefe de pesquisa de IA da Meta, afirmou que redes neurais como o LaMDA "não eram poderosas o suficiente para alcançar inteligência verdadeira". Max Kreminski observou que a arquitetura do LaMDA não suportava capacidades-chave da consciência humana, e seus pesos estavam congelados. O filósofo Nick Bostrom reconheceu incerteza devido à falta de critérios consensuais para consciência. O incidente também gerou debate sobre a eficácia do teste de Turing, com comentaristas como Brian Christian relacionando-o ao efeito ELIZA.
Consequências e Legado
Após a controvérsia, os executivos do Google decidiram contra lançar o LaMDA ao público, uma medida que estavam considerando. Em fevereiro de 2023, o Google anunciou o Gemini (então Bard), um chatbot de IA conversacional alimentado pelo LaMDA, para contrapor o avanço do ChatGPT da OpenAI. O episódio contribuiu para discussões mais amplas sobre ética em IA, as limitações dos modelos de aprendizado de máquina e o potencial de antropomorfismo nas interações humano-IA. Também influenciou a percepção pública dos sistemas de IA generativa e suas capacidades, embora nenhum consenso tenha emergido sobre a possibilidade de senciência de máquinas.