A estruturação de documentos é uma subtarefa da geração de linguagem natural que envolve decidir a ordem e o agrupamento (por exemplo, em parágrafos) de frases em um texto gerado. Ela está intimamente relacionada à tarefa de NLG de determinação de conteúdo, que decide quais informações incluir. O objetivo é produzir um texto coerente e bem organizado do ponto de vista do leitor, em vez de simplesmente uma disposição aleatória de fatos.
Por exemplo, considere quatro frases sobre uma previsão de fim de semana: "Vai chover no sábado", "Vai fazer sol no domingo", "A temperatura máxima será de 10 °C no sábado" e "A temperatura máxima será de 15 °C no domingo". Existem 24 (4 fatorial) ordenações possíveis dessas mensagens. Algumas ordenações são preferidas por leitores humanos, como agrupar as condições climáticas por dia (chuva e 10 °C no sábado, depois sol e 15 °C no domingo), em vez de sequências menos lógicas. Da mesma forma, para qualquer ordenação, há várias maneiras de agrupar frases em parágrafos; para quatro frases, existem 8 (2 elevado à potência de 3) agrupamentos possíveis de parágrafos. Os leitores geralmente preferem agrupamentos que reúnem informações relacionadas, como (12)(34) em vez de (1)(23)(4).
Abordagens e algoritmos
Existem três abordagens clássicas para estruturação de documentos: esquemas, métodos baseados em corpus e métodos baseados em heurísticas. Esquemas são modelos que especificam explicitamente a ordem e o agrupamento de frases, tipicamente derivados da análise manual de um corpus de textos escritos por humanos em um gênero-alvo. Eles funcionam bem para textos curtos (cinco frases ou menos) ou aqueles com estruturas padronizadas, mas têm dificuldade com textos mais longos ou menos fixos.
A estruturação baseada em corpus usa análise estatística de corpora de texto para construir automaticamente modelos de ordenação e agrupamento. Essa técnica é comum em sumarização automática, onde programas geram resumos de documentos. Em princípio, poderia ser aplicada a texto gerado a partir de dados não linguísticos, mas esse trabalho permanece incipiente, em parte porque se espera que sistemas de NLG produzam texto de alta qualidade, o que a sumarização automática muitas vezes não faz.
A estruturação baseada em heurísticas depende de regras derivadas de teorias de retórica, modelos psicolinguísticos ou intuição e feedback do usuário. Essa abordagem pode focar no que é melhor para os leitores, ao contrário de esquemas ou métodos de corpus que imitam autores, mas é difícil de implementar bem porque as heurísticas frequentemente dependem de informações semânticas sobre como as frases se relacionam, que podem não estar prontamente disponíveis.
Abordagens neurais modernas
Avanços recentes em aprendizado profundo e grandes modelos de linguagem deslocaram a estruturação de documentos para a geração neural de texto de ponta a ponta. Sistemas baseados em transformadores e redes neurais aprendem ordenação e agrupamento implicitamente a partir de grandes corpora de treinamento, em vez de por meio de regras ou modelos explícitos. Essa abordagem, usada por modelos de organizações como OpenAI, Anthropic e Google DeepMind, pode produzir texto fluente, mas ainda pode apresentar problemas de coerência e organização do discurso, como saltos lógicos ou parágrafos mal agrupados.
Esses modelos frequentemente empregam técnicas como codificação posicional e atenção de múltiplas cabeças para capturar relações entre frases, mas a estruturação de documentos continua sendo um desafio porque exige coerência global além das previsões locais de palavras. A pesquisa em inteligência artificial continua explorando como melhorar isso, com alguns trabalhos baseando-se em aprendizado curricular ou aprendizado por reforço a partir de feedback de IA para otimizar a organização do texto.
Geração de narrativas
O desafio final da estruturação de documentos é gerar uma boa narrativa: um texto que estabelece o cenário, introduz uma visão geral, descreve eventos claramente para que os leitores vejam como eles se conectam e conclui com um resumo. Isso se aplica a textos factuais, bem como a histórias. Os sistemas atuais de NLG frequentemente falham nisso, e é uma das principais fontes de crítica dos usuários. Gerar boas narrativas é difícil em todos os aspectos da NLG, mas a estruturação de documentos é, sem dúvida, o obstáculo mais fundamental.
Avaliação e desafios
Avaliar a estruturação de documentos tipicamente envolve julgamentos humanos de coerência e legibilidade, pois os leitores preferem certas ordenações e agrupamentos em vez de outros. Métricas automatizadas são menos comuns porque a coerência é subjetiva e dependente do contexto. Os desafios incluem lidar com documentos longos, adaptar-se a gêneros variados e garantir que o texto gerado atenda às expectativas do leitor, especialmente quando os dados de origem são não linguísticos. No início dos anos 2020, nenhuma abordagem única resolve completamente esses problemas, e métodos híbridos que combinam heurísticas com geração neural são uma área ativa de pesquisa.