Emily M. Bender es profesora de lingüística en la Universidad de Washington y una destacada crítica académica de las afirmaciones exageradas sobre lo que los grandes modelos de lenguaje comprenden o saben.
Trayectoria académica
La formación académica de Bender es en lingüística computacional, y su investigación se ha centrado durante mucho tiempo en la relación entre la forma lingüística y el significado, y en los riesgos de tratar la producción fluida de lenguaje como evidencia de comprensión genuina. En un artículo de 2020 con Alexander Koller, "Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data," Bender introdujo la "prueba del pulpo," un experimento mental en el que un pulpo hiperinteligente, que solo ha observado a dos personas comunicándose por cable sin ningún acceso al mundo físico que describen, aprende a producir respuestas estadísticamente plausibles sin llegar a captar a qué se refieren las palabras. Bender usó la analogía para argumentar que los sistemas entrenados puramente en los patrones estadísticos del texto, por grandes que sean, no pueden asumirse que han adquirido significado o comprensión de la manera en que lo hace un hablante humano
Loro Estocástico
En 2021, Bender coescribió "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" con Timnit Gebru, Angelina McMillan-Major y Margaret Mitchell. El artículo, escrito mientras Gebru y Mitchell estaban en Google, argumentó que escalar los grandes modelos de lenguaje conllevaba costos ambientales, riesgos de codificar y amplificar sesgos sociales presentes en los datos de entrenamiento extraídos de la web, producía texto que era difícil de auditar para precisión fáctica,y alentaba a usuarios e incluso investigadores a confundir la producción fluida con comprensión, una crítica que dio al campo el término ampliamente utilizado de loro estocástico. La publicación del artículo,y las objeciones de Google al mismo, contribuyeron a la salida de alto perfil de Gebru de la empresa
Comentario público
Bender ha seguido siendo una de las voces académicas más visibles que rechazan la antropomorfización del lenguaje, describiendo chatbots y abogando por un vocabulario más preciso y no mentalista al describir lo que hacen los LLMs, objetando por ejemplo a describir los modelos como comprendiendo, sabiendo, o alucinando en un sentido literal, incluso mientras acepta términos como alucinación como abreviatura establecida dentro del campo. Ella coorganiza el podcast "Mystery AI Hype Theater 3000" con la socióloga Alex Hanna, en el que los dos examinan críticamente la cobertura mediática y las afirmaciones de la industria sobre las capacidades de la IA
Influencia
El escepticismo fundamentado en la lingüística de Bender se ha convertido en un punto de referencia estándar en los debates sobre los cronogramas de inteligencia artificial general y las afirmaciones de comprensión emergente en modelos grandes, invocado frecuentemente junto a críticas de investigadores como Gary Marcus como contrapeso a las narrativas más optimistas de los principales laboratorios de IA.