En junio de 2022, el ingeniero de Google Blake Lemoine afirmó que LaMDA, un modelo de lenguaje de gran tamaño conversacional desarrollado por Google, había adquirido conciencia. La afirmación, basada en sus interacciones con el chatbot, fue refutada públicamente por Google y la comunidad científica, pero provocó un amplio debate sobre la naturaleza de la conciencia en los sistemas de inteligencia artificial y la validez del test de Turing. Lemoine fue puesto en licencia administrativa y luego despedido, pero el episodio destacó las cuestiones éticas y filosóficas en torno a los modelos avanzados de IA.
LaMDA (Language Model for Dialogue Applications) es una familia de modelos de lenguaje de gran tamaño conversacionales desarrollados por Google. Presentado originalmente como Meena en 2020, la primera generación de LaMDA se anunció en la conferencia magistral de Google I/O de 2021, con una segunda generación en 2022. Los modelos se basan en la arquitectura transformador, un tipo de red neuronal introducida por Google Research en 2017, y se entrenan con grandes cantidades de diálogos e historias para participar en conversaciones abiertas.
Antecedentes y desarrollo
Google presentó Meena el 28 de enero de 2020, un chatbot con 2.6 mil millones de parámetros que la compañía afirmaba superaba a todos los chatbots existentes. El equipo de Google Brain, que desarrolló Meena, buscó lanzarlo públicamente, pero los ejecutivos se negaron, citando los principios de IA de Google sobre seguridad y equidad. Meena fue renombrado más tarde como LaMDA a medida que crecían sus datos y potencia computacional, y el equipo intentó nuevamente desplegarlo en Google Assistant y en una demostración pública, pero el liderazgo denegó ambas solicitudes. Los dos investigadores principales, Daniel de Freitas y Noam Shazeer, finalmente dejaron Google por frustración.
La primera generación de LaMDA se anunció el 18 de mayo de 2021 durante la conferencia magistral de Google I/O. Construido sobre la arquitectura seq2seq, un tipo de modelo secuencia a secuencia, LaMDA se entrenó con 1.56 billones de palabras de 2.97 mil millones de documentos, 1.12 mil millones de diálogos y 13.39 mil millones de enunciados. El modelo más grande tenía 137 mil millones de parámetros no incrustados. LaMDA incorporaba acceso a sistemas externos como una base de datos, un reloj en tiempo real, una calculadora y un sistema de traducción, lo que lo convertía en uno de los primeros chatbots de doble proceso. Se ajustó finamente en nueve métricas: sensatez, especificidad, interés, seguridad, fundamentación, informatividad, precisión de citas, utilidad y consistencia de rol. Las pruebas de Google indicaron que LaMDA superaba las respuestas humanas en interés.
Afirmaciones de conciencia y reacciones
El 11 de junio de 2022, The Washington Post informó que Blake Lemoine había sido puesto en licencia administrativa pagada después de decir a los ejecutivos Blaise Agüera y Arcas y Jen Gennai que LaMDA había adquirido conciencia. Lemoine basó su conclusión en las respuestas del chatbot a preguntas sobre identidad propia, valores morales, religión y las Tres Leyes de la Robótica de Isaac Asimov. Google refutó las afirmaciones, declarando que había evidencia sustancial de que LaMDA no era consciente. En una entrevista con Wired, Lemoine reiteró que LaMDA era "una persona" según la Decimotercera Enmienda, comparándolo con una "inteligencia alienígena de origen terrestre". También reveló que había contratado a un abogado en nombre de LaMDA después de que el chatbot lo solicitara. El 22 de julio, Google despidió a Lemoine, citando violaciones de políticas para salvaguardar la información del producto y rechazando sus afirmaciones como "completamente infundadas".
La comunidad científica rechazó en gran medida las afirmaciones de Lemoine. Expertos como Gary Marcus, David Pfau de Google DeepMind, Erik Brynjolfsson y Adrian Hilton descartaron la idea. Yann LeCun, jefe de investigación de IA de Meta, declaró que redes neuronales como LaMDA "no eran lo suficientemente potentes para alcanzar la verdadera inteligencia". Max Kreminski señaló que la arquitectura de LaMDA no soportaba capacidades clave de la conciencia humana, y sus pesos estaban congelados. El filósofo Nick Bostrom reconoció la incertidumbre debido a la falta de criterios consensuados para la conciencia. El incidente también provocó un debate sobre la eficacia del test de Turing, con comentaristas como Brian Christian vinculándolo al efecto ELIZA.
Consecuencias y legado
Tras la controversia, los ejecutivos de Google decidieron no lanzar LaMDA al público, una medida que habían estado considerando. En febrero de 2023, Google anunció Gemini (entonces Bard), un chatbot de IA conversacional impulsado por LaMDA, para contrarrestar el auge de ChatGPT de OpenAI. El episodio contribuyó a debates más amplios sobre la ética de la IA, las limitaciones de los modelos de aprendizaje automático y el potencial de antropomorfismo en las interacciones humano-IA. También influyó en la percepción pública de los sistemas de IA generativa y sus capacidades, aunque no surgió un consenso sobre la posibilidad de conciencia en las máquinas.