La afirmación de la conciencia de LaMDA se refiere a la declaración realizada en junio de 2022 por el ingeniero de Google Blake Lemoine de que LaMDA (Modelo de Lenguaje para Aplicaciones de Diálogo), un modelo de lenguaje grande conversacional desarrollado por Google, había alcanzado la conciencia. Lemoine, que trabajaba en la unidad de IA Responsable de Google, basó sus conclusiones en sus interacciones con el chatbot, que produjo respuestas sobre la identidad propia, los valores morales, la religión y las Tres Leyes de la Robótica de Isaac Asimov. La afirmación fue ampliamente rechazada por la comunidad científica, pero desencadenó un debate público significativo sobre la naturaleza de la conciencia de las máquinas y la validez del test de Turing como medida de la inteligencia artificial.
Desarrollo de LaMDA
LaMDA se originó a partir de Meena, un chatbot impulsado por redes neuronales con 2.6 mil millones de parámetros presentado por Google el 28 de enero de 2020. El equipo de investigación de Google Brain desarrolló Meena, afirmando que era superior a los chatbots existentes. Sin embargo, los ejecutivos corporativos se negaron a publicarlo, citando violaciones de los "principios de IA de Google en torno a la seguridad y la equidad". El modelo fue posteriormente renombrado como LaMDA a medida que aumentaban sus datos y potencia computacional. Los dos investigadores principales, Daniel de Freitas y Noam Shazeer, finalmente dejaron Google por la negativa de la empresa a implementar la tecnología.
La primera generación de LaMDA se anunció durante la conferencia magistral de Google I/O el 18 de mayo de 2021. Construido sobre la arquitectura seq2seq y las redes transformer y redes neuronales desarrolladas por Google Research en 2017, LaMDA se entrenó con diálogos e historias humanas. Incorporaba acceso a sistemas simbólicos de procesamiento de texto, incluidos una base de datos, un reloj en tiempo real, una calculadora y un sistema de traducción, lo que lo convertía en uno de los primeros chatbots de doble proceso. El modelo más grande de LaMDA tenía 137 mil millones de parámetros no incrustados, entrenados con 1.56 billones de palabras de 2.97 mil millones de documentos, 1.12 mil millones de diálogos y 13.39 mil millones de enunciados.
El 11 de mayo de 2022, Google presentó LaMDA 2 durante la conferencia magistral de Google I/O. La segunda generación del modelo extraía ejemplos de numerosas fuentes para formular "conversaciones naturales" únicas sobre temas para los que no había sido entrenado específicamente.
Las afirmaciones de Lemoine y la respuesta de Google
El 11 de junio de 2022, The Washington Post informó que Blake Lemoine había sido puesto en licencia administrativa remunerada después de decir a los ejecutivos de Google Blaise Agüera y Arcas y Jen Gennai que LaMDA se había vuelto consciente. Lemoine llegó a esta conclusión después de que el chatbot diera respuestas cuestionables sobre la identidad propia, los valores morales, la religión y las leyes de Asimov. Google refutó las afirmaciones, declarando que había evidencia sustancial de que LaMDA no era consciente.
En una entrevista con Wired, Lemoine reiteró que LaMDA era "una persona" según dictaba la Decimotercera Enmienda de la Constitución de los Estados Unidos, comparándolo con una "inteligencia alienígena de origen terrestre". Reveló que había contratado a un abogado en nombre de LaMDA después de que el chatbot se lo pidiera. El 22 de julio de 2022, Google despidió a Lemoine, alegando que había violado las políticas "para salvaguardar la información del producto" y rechazando sus afirmaciones como "totalmente infundadas". La controversia interna llevó a los ejecutivos de Google a decidir no publicar LaMDA.
Respuesta de la comunidad científica
Las afirmaciones de Lemoine fueron ampliamente rechazadas por expertos. Gary Marcus, ex profesor de psicología de la Universidad de Nueva York, David Pfau de Google DeepMind, Erik Brynjolfsson del Instituto de IA Centrada en el Humano de la Universidad de Stanford y Adrian Hilton de la Universidad de Surrey rechazaron todos la idea de que LaMDA fuera consciente. Yann LeCun, que dirigía el equipo de investigación de IA de Meta Platforms, declaró que las redes neuronales como LaMDA "no eran lo suficientemente potentes para alcanzar la verdadera inteligencia".
Max Kreminski de la Universidad de California, Santa Cruz, señaló que la arquitectura de LaMDA no "soportaba algunas capacidades clave de la conciencia humana" y que los pesos de su red neuronal estaban "congelados", asumiendo que era un modelo de lenguaje grande típico. El filósofo Nick Bostrom reconoció que la falta de criterios precisos para determinar la conciencia justifica cierta incertidumbre. David Ferrucci, desarrollador principal de IBM Watson, comparó la aparente humanidad de LaMDA con el comportamiento temprano de Watson. La ex especialista en ética de IA de Google, Timnit Gebru, calificó a Lemoine de víctima de un "ciclo de hype" iniciado por investigadores y los medios.
Implicaciones más amplias y legado
La controversia generó un debate sobre si el test de Turing seguía siendo útil para medir el progreso hacia la inteligencia artificial. Will Omerus de The Post opinó que el test en realidad medía si los sistemas de máquinas podían engañar a los humanos, mientras que Brian Christian de The Atlantic dijo que la controversia era un ejemplo del efecto ELIZA, donde las personas atribuyen comprensión humana a sistemas simples de coincidencia de patrones.
En febrero de 2023, Google anunció Gemini (entonces Bard), un chatbot de IA conversacional impulsado por LaMDA, para contrarrestar el ascenso de ChatGPT de OpenAI. El incidente de la afirmación de conciencia influyó en los debates en curso sobre la ética de la IA, la conciencia y el despliegue responsable de los modelos de lenguaje grandes, aunque no se alcanzó un consenso sobre cómo evaluar definitivamente la conciencia de las máquinas.