Compreensão de linguagem natural (NLU), também chamada de interpretação de linguagem natural (NLI), é um subconjunto da inteligência artificial e do processamento de linguagem natural que se concentra na compreensão de leitura por máquinas. Envolve capacitar computadores a derivar significado de entrada de linguagem humana, seja falada ou escrita. A NLU tem sido descrita como um problema difícil de IA porque requer amplo conhecimento de mundo e a capacidade de lidar com ambiguidade, contexto e variabilidade na expressão. O campo tem considerável interesse comercial devido a aplicações em raciocínio automatizado, tradução automática, resposta a perguntas, coleta de notícias, categorização de texto, ativação por voz, arquivamento e análise de conteúdo em larga escala.
Os sistemas de NLU variam amplamente em escopo e profundidade. Amplitude refere-se ao tamanho do vocabulário e da gramática que um sistema pode lidar, enquanto profundidade refere-se a quão de perto sua compreensão se aproxima da de um falante nativo fluente. Interpretadores de comandos simples são estreitos e rasos, enquanto sistemas que analisam artigos de jornal completos são amplos e profundos. A maioria das aplicações do mundo real fica entre esses extremos, como sistemas de roteamento de e-mail que classificam mensagens por tópico sem precisar de compreensão semântica profunda.
Desenvolvimento histórico
As primeiras tentativas de NLU datam dos anos 1960. Em 1964, Daniel Bobrow escreveu o programa STUDENT para sua dissertação de doutorado no MIT, que resolvia problemas de álgebra em palavras compreendendo entrada simples de linguagem natural. Um ano depois, Joseph Weizenbaum no MIT criou o ELIZA, um programa interativo que simulava conversa por meio de correspondência de palavras-chave a frases prontas. Embora o ELIZA carecesse de compreensão real, demonstrou interesse público no diálogo entre máquinas.
Em 1969, Roger Schank na Universidade Stanford introduziu a teoria da dependência conceitual, que representava significado por meio de ações primitivas e foi influente em trabalhos posteriores na Universidade Yale. Em 1970, William A. Woods desenvolveu a rede de transição aumentada (ATN), um formalismo para analisar linguagem natural usando autômatos finitos recursivos. Em 1971, Terry Winograd completou o SHRDLU no MIT, que podia compreender e manipular um mundo virtual de blocos por meio de comandos em inglês, um marco na demonstração de compreensão situada.
Durante os anos 1970 e 1980, grupos de pesquisa como a SRI International avançaram técnicas de NLU, e esforços comerciais surgiram, incluindo a Symantec (fundada por Gary Hendrix em 1982) e a Cognitive Systems Corp. (cofundada por Roger Schank). Em 1983, Michael Dyer construiu o sistema BORIS em Yale, que lidava com compreensão narrativa. No entanto, esses sistemas eram limitados a domínios estreitos e careciam de compreensão geral.
A era do aprendizado de máquina
O terceiro milênio trouxe abordagens de aprendizado de máquina para a NLU. O IBM Watson, que venceu o programa de perguntas e respostas Jeopardy! em 2011, usou métodos estatísticos para responder perguntas, embora críticos como o filósofo John Searle argumentassem que o Watson não compreendia verdadeiramente as perguntas. Durante os anos 2010, embeddings de palavras como word2vec representavam palavras como vetores densos, capturando relações sintáticas e semânticas. Mais tarde, modelos baseados em transformadores como o BERT introduziram pré-treinamento em larga escala seguido de ajuste fino, melhorando significativamente o desempenho em tarefas como resposta a perguntas e inferência de linguagem natural.
Esses avanços, impulsionados por aprendizado profundo e redes neurais, levaram ao desenvolvimento de grandes modelos de linguagem como o GPT-3 e seus sucessores, que geram texto fluente e executam muitas tarefas de NLU com alta precisão. No entanto, especialistas debatem se esses modelos exibem compreensão genuína ou apenas correspondência estatística de padrões. O cientista cognitivo John Ball, inventor da Teoria Patom, argumenta que o PLN convencional ainda falha porque há milhares de maneiras de solicitar algo em linguagem humana. Wibe Wagemans observou que conversa significativa com máquinas requer corresponder cada palavra ao significado correto com base no contexto, como uma criança de 3 anos faz sem adivinhação.
Tarefas e técnicas principais
A NLU abrange várias tarefas principais, incluindo reconhecimento de entidade nomeada, etiquetagem de classe gramatical, análise sintática, rotulagem de papéis semânticos e resolução de correferência. Essas tarefas alimentam aplicações de nível superior, como detecção de intenção em sistemas de diálogo, análise de sentimentos e inferência de linguagem natural. Abordagens tradicionais usavam gramáticas baseadas em regras e características feitas à mão, mas sistemas modernos dependem predominantemente de aprendizado de máquina, especialmente arquiteturas de transformador.
Embeddings de palavras como word2vec e embeddings contextuais de modelos como o BERT permitem que sistemas representem palavras de uma maneira que captura significado com base no uso. Pré-treinamento em corpora massivos seguido de ajuste fino em tarefas específicas tornou-se o paradigma padrão. Essa abordagem permitiu avanços em resposta a perguntas, onde sistemas podem extrair respostas de passagens, e em inferência de linguagem natural, onde determinam se uma hipótese decorre de uma premissa.
Aplicações e interesse comercial
A NLU tem inúmeras aplicações práticas. Assistentes de voz como Siri da Apple, Alexa da Amazon e Google Assistant dependem de NLU para interpretar comandos do usuário. Chatbots de atendimento ao cliente usam NLU para rotear consultas e fornecer respostas. Sistemas de classificação de texto classificam automaticamente e-mails, artigos de notícias e documentos legais. Sistemas de tradução automática, como o Google Tradutor, usam NLU para compreender texto de origem e gerar traduções. Na saúde, a NLU ajuda a extrair informações de notas clínicas. Em finanças, analisa relatórios de lucros e notícias para sinais de negociação.
O interesse comercial é forte porque a NLU pode automatizar tarefas que anteriormente exigiam leitura e compreensão humanas. Empresas como OpenAI, Anthropic e Google DeepMind investem pesadamente no desenvolvimento de modelos avançados de NLU. Provedores de nuvem como Amazon Web Services, Microsoft Azure e Google Cloud oferecem serviços de NLU como APIs. No entanto, as limitações dos sistemas atuais, particularmente sua falta de raciocínio robusto de senso comum, permanecem uma barreira para compreensão completa.
Desafios e direções futuras
A NLU enfrenta desafios persistentes, incluindo ambiguidade, dependência de contexto e a necessidade de conhecimento de mundo. Compreender uma frase muitas vezes requer conhecimento sobre o mundo físico e social que não é explicitamente declarado. Por exemplo, "O troféu não cabe na mala marrom porque é pequena demais" requer saber qual objeto é pequeno. Modelos atuais frequentemente lutam com tais inferências pragmáticas.
Direções futuras incluem integrar NLU com bases de conhecimento externas, melhorar aprendizado com poucos exemplos e zero-shot, e desenvolver modelos que possam raciocinar e explicar suas decisões. Pesquisadores também estão explorando compreensão multimodal, onde a linguagem é combinada com visão e outras modalidades. Até o início dos anos 2020, nenhum sistema alcançou NLU em nível humano, e permanece um problema em aberto na inteligência artificial.