Emily M. Bender é professora de linguística na Universidade de Washington e uma das principais críticas acadêmicas das afirmações exageradas sobre o que grandes modelos de linguagem compreendem ou sabem.
A formação acadêmica de Bender é em linguística computacional, e sua pesquisa há muito se concentra na relação entre forma linguística e significado, e nos riscos de tratar a produção fluente de linguagem como evidência de compreensão genuína. Em um artigo de 2020 com Alexander Koller, "Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data", Bender introduziu o "teste do polvo", um experimento mental no qual um polvo hiperinteligente, tendo apenas observado duas pessoas se comunicando por cabo, sem qualquer acesso ao mundo físico que elas descrevem, aprende a produzir respostas estatisticamente plausíveis sem jamais captar a que as palavras se referem. Bender usou a analogia para argumentar que sistemas treinados puramente nos padrões estatísticos de texto, por maiores que sejam, não podem ser considerados como tendo adquirido significado ou compreensão da forma como um falante humano o faz.
Papagaios Estocásticos
Em 2021, Bender coescreveu "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" com Timnit Gebru, Angelina McMillan-Major e Margaret Mitchell. O artigo, escrito enquanto Gebru e Mitchell estavam no Google, argumentava que a expansão de grandes modelos de linguagem acarretava custos ambientais, corria o risco de codificar e amplificar vieses sociais presentes em dados de treinamento coletados da web, produzia texto difícil de auditar quanto à precisão factual e incentivava usuários e até pesquisadores a confundir saída fluente com compreensão, uma crítica que deu ao campo o termo amplamente usado papagaio estocástico. A publicação do artigo e as objeções do Google a ele contribuíram para a saída de alto perfil de Gebru da empresa.
Comentário público
Bender permaneceu uma das vozes acadêmicas mais visíveis a contestar a antropomorfização da linguagem, descrevendo chatbots e defendendo um vocabulário mais preciso e não mentalista ao descrever o que LLMs fazem, objetando, por exemplo, a descrever modelos como compreendendo, sabendo ou alucinando em um sentido literal, mesmo aceitando termos como alucinação como abreviação estabelecida dentro do campo. Ela coapresenta o podcast "Mystery AI Hype Theater 3000" com a socióloga Alex Hanna, no qual os dois examinam criticamente a cobertura da mídia e as afirmações da indústria sobre capacidades de IA.
Influência
O ceticismo fundamentado na linguística de Bender tornou-se um ponto de referência padrão nos debates sobre cronogramas de inteligência artificial geral e afirmações de compreensão emergente em grandes modelos, frequentemente invocado junto a críticas de pesquisadores como Gary Marcus como contrapeso a narrativas mais otimistas de grandes laboratórios de IA.