La estructuración de documentos es una subtarea de la generación de lenguaje natural que implica decidir el orden y la agrupación (por ejemplo, en párrafos) de las oraciones en un texto generado. Está estrechamente relacionada con la tarea de determinación de contenido en NLG, que decide qué información incluir. El objetivo es producir un texto coherente y bien organizado desde la perspectiva del lector, en lugar de simplemente una disposición aleatoria de hechos.
Por ejemplo, considere cuatro oraciones sobre un pronóstico de fin de semana: "Lloverá el sábado", "Hará sol el domingo", "La temperatura máxima será de 10 °C el sábado" y "La temperatura máxima será de 15 °C el domingo". Hay 24 (4 factorial) ordenamientos posibles de estos mensajes. Algunos ordenamientos son preferidos por los lectores humanos, como agrupar las condiciones climáticas por día (lluvia y 10 °C el sábado, luego sol y 15 °C el domingo), en lugar de secuencias menos lógicas. De manera similar, para cualquier ordenamiento, hay múltiples formas de agrupar oraciones en párrafos; para cuatro oraciones, hay 8 (2 elevado a la 3) agrupaciones posibles de párrafos. Los lectores generalmente prefieren agrupaciones que agrupan información relacionada, como (12)(34) sobre (1)(23)(4).
Enfoques y algoritmos
Existen tres enfoques clásicos para la estructuración de documentos: esquemas, métodos basados en corpus y métodos basados en heurísticas. Los esquemas son plantillas que especifican explícitamente el orden y la agrupación de oraciones, típicamente derivadas mediante el análisis manual de un corpus de textos escritos por humanos en un género objetivo. Funcionan bien para textos cortos (cinco oraciones o menos) o aquellos con estructuras estandarizadas, pero tienen dificultades con textos más largos o menos fijos.
La estructuración basada en corpus utiliza análisis estadístico de corpus de texto para construir automáticamente modelos de ordenamiento y agrupación. Esta técnica es común en la summarización automática, donde los programas generan resúmenes de documentos. En principio, podría aplicarse a texto generado a partir de datos no lingüísticos, pero este trabajo sigue siendo incipiente, en parte porque se espera que los sistemas NLG produzcan texto de alta calidad, lo que la summarización automática a menudo no logra.
La estructuración basada en heurísticas se basa en reglas derivadas de teorías de la retórica, modelos psicolingüísticos, o intuición y retroalimentación del usuario. Este enfoque puede centrarse en lo que es mejor para los lectores, a diferencia de los esquemas o métodos de corpus que imitan a los autores, pero es difícil de implementar bien porque las heurísticas a menudo dependen de información semántica sobre cómo se relacionan las oraciones, que puede no estar fácilmente disponible.
Enfoques neuronales modernos
Los avances recientes en aprendizaje profundo y grandes modelos de lenguaje han desplazado la estructuración de documentos hacia la generación neuronal de extremo a extremo. Los sistemas basados en transformadores y redes neuronales aprenden el ordenamiento y la agrupación implícitamente de grandes corpus de entrenamiento, en lugar de mediante reglas o plantillas explícitas. Este enfoque, utilizado por modelos de organizaciones como OpenAI, Anthropic y Google DeepMind, puede producir texto fluido, pero aún puede presentar problemas de coherencia y organización del discurso, como saltos lógicos o párrafos mal agrupados.
Estos modelos a menudo emplean técnicas como codificación posicional y atención de múltiples cabezas para capturar relaciones entre oraciones, pero la estructuración de documentos sigue siendo un desafío porque requiere coherencia global más allá de las predicciones locales de palabras. La investigación en inteligencia artificial continúa explorando cómo mejorar esto, con algunos trabajos que se basan en aprendizaje curricular o aprendizaje por refuerzo con retroalimentación de IA para optimizar la organización del texto.
Generación narrativa
El desafío final de la estructuración de documentos es generar una buena narrativa: un texto que establezca la escena, introduzca una visión general, describa los eventos claramente para que los lectores vean cómo se relacionan, y concluya con un resumen. Esto se aplica tanto a textos factuales como a historias. Los sistemas NLG actuales a menudo fallan en esto, y es una fuente importante de críticas de los usuarios. Generar buenas narrativas es difícil en todos los aspectos de NLG, pero la estructuración de documentos es posiblemente el obstáculo más fundamental.
Evaluación y desafíos
Evaluar la estructuración de documentos típicamente implica juicios humanos de coherencia y legibilidad, ya que los lectores prefieren ciertos ordenamientos y agrupaciones sobre otros. Las métricas automatizadas son menos comunes porque la coherencia es subjetiva y dependiente del contexto. Los desafíos incluyen manejar documentos largos, adaptarse a géneros variados y asegurar que el texto generado cumpla con las expectativas del lector, especialmente cuando los datos fuente son no lingüísticos. A principios de la década de 2020, ningún enfoque único resuelve completamente estos problemas, y los métodos híbridos que combinan heurísticas con generación neuronal son un área activa de investigación.