La comprensión del lenguaje natural (NLU), también llamada interpretación del lenguaje natural (NLI), es un subconjunto de la inteligencia artificial y del procesamiento del lenguaje natural que se centra en la comprensión lectora de las máquinas. Implica permitir que las computadoras deriven significado de la entrada de lenguaje humano, ya sea hablada o escrita. La NLU ha sido descrita como un problema difícil de IA porque requiere un amplio conocimiento del mundo y la capacidad de manejar la ambigüedad, el contexto y la variabilidad en la expresión. El campo tiene un interés comercial considerable debido a aplicaciones en razonamiento automatizado, traducción automática, respuesta a preguntas, recopilación de noticias, categorización de texto, activación por voz, archivo y análisis de contenido a gran escala.
Los sistemas de NLU varían ampliamente en alcance y profundidad. La amplitud se refiere al tamaño del vocabulario y la gramática que un sistema puede manejar, mientras que la profundidad se refiere a cuán cerca su comprensión se aproxima a la de un hablante nativo fluido. Los intérpretes de comandos simples son estrechos y poco profundos, mientras que los sistemas que analizan artículos completos de periódicos son amplios y profundos. La mayoría de las aplicaciones del mundo real se encuentran entre estos extremos, como los sistemas de enrutamiento de correo electrónico que clasifican mensajes por tema sin necesidad de una comprensión semántica profunda.
Desarrollo histórico
Los primeros intentos de NLU se remontan a la década de 1960. En 1964, Daniel Bobrow escribió el programa STUDENT para su tesis doctoral en el MIT, que resolvía problemas de álgebra en palabras mediante la comprensión de entrada simple en lenguaje natural. Un año después, Joseph Weizenbaum en el MIT creó ELIZA, un programa interactivo que simulaba conversación mediante el emparejamiento de patrones de palabras clave con frases predefinidas. Aunque ELIZA carecía de comprensión real, demostró el interés público en el diálogo entre máquinas.
En 1969, Roger Schank en la Universidad de Stanford introdujo la teoría de dependencia conceptual, que representaba el significado a través de acciones primitivas y fue influyente en trabajos posteriores en la Universidad de Yale. En 1970, William A. Woods desarrolló la red de transición aumentada (ATN), un formalismo para analizar el lenguaje natural mediante autómatas finitos recursivos. En 1971, Terry Winograd completó SHRDLU en el MIT, que podía comprender y manipular un mundo virtual de bloques mediante comandos en inglés, un hito en la demostración de comprensión situada.
Durante las décadas de 1970 y 1980, grupos de investigación como SRI International avanzaron en técnicas de NLU, y surgieron esfuerzos comerciales, incluidos Symantec (fundada por Gary Hendrix en 1982) y Cognitive Systems Corp. (cofundada por Roger Schank). En 1983, Michael Dyer construyó el sistema BORIS en Yale, que manejaba la comprensión narrativa. Sin embargo, estos sistemas estaban limitados a dominios estrechos y carecían de comprensión general.
La era del aprendizaje automático
El tercer milenio trajo enfoques de aprendizaje automático a la NLU. IBM Watson, que ganó el concurso Jeopardy! en 2011, utilizó métodos estadísticos para responder preguntas, aunque críticos como el filósofo John Searle argumentaron que Watson no comprendía realmente las preguntas. Durante la década de 2010, los embeddings de palabras como word2vec representaban palabras como vectores densos, capturando relaciones sintácticas y semánticas. Más tarde, los modelos basados en transformadores como BERT introdujeron el preentrenamiento a gran escala seguido de ajuste fino, mejorando significativamente el rendimiento en tareas como respuesta a preguntas e inferencia de lenguaje natural.
Estos avances, impulsados por el aprendizaje profundo y las redes neuronales, llevaron al desarrollo de grandes modelos de lenguaje como GPT-3 y sus sucesores, que generan texto fluido y realizan muchas tareas de NLU con alta precisión. Sin embargo, los expertos debaten si estos modelos exhiben comprensión genuina o simplemente coincidencia estadística de patrones. El científico cognitivo John Ball, inventor de la teoría Patom, argumenta que el PLN convencional aún falla porque hay miles de formas de solicitar algo en el lenguaje humano. Wibe Wagemans señaló que una conversación significativa con máquinas requiere emparejar cada palabra con el significado correcto según el contexto, como hace un niño de 3 años sin adivinanzas.
Tareas y técnicas principales
La NLU abarca varias tareas principales, incluido el reconocimiento de entidades nombradas, el etiquetado de partes del discurso, el análisis sintáctico, el etiquetado de roles semánticos y la resolución de correferencias. Estas tareas alimentan aplicaciones de nivel superior como la detección de intenciones en sistemas de diálogo, el análisis de sentimientos y la inferencia de lenguaje natural. Los enfoques tradicionales usaban gramáticas basadas en reglas y características hechas a mano, pero los sistemas modernos dependen predominantemente del aprendizaje automático, especialmente de las arquitecturas de transformadores.
Los embeddings de palabras como word2vec y los embeddings contextuales de modelos como BERT permiten que los sistemas representen palabras de una manera que captura el significado según el uso. El preentrenamiento en corpus masivos seguido de ajuste fino en tareas específicas se ha convertido en el paradigma estándar. Este enfoque ha permitido avances en la respuesta a preguntas, donde los sistemas pueden extraer respuestas de pasajes, y en la inferencia de lenguaje natural, donde determinan si una hipótesis se sigue de una premisa.
Aplicaciones e interés comercial
La NLU tiene numerosas aplicaciones prácticas. Los asistentes de voz como Siri de Apple, Alexa de Amazon y Google Assistant dependen de la NLU para interpretar comandos de usuario. Los chatbots de servicio al cliente usan NLU para enrutar consultas y proporcionar respuestas. Los sistemas de clasificación de texto clasifican automáticamente correos electrónicos, artículos de noticias y documentos legales. Los sistemas de traducción automática, como Google Translate, usan NLU para comprender el texto fuente y generar traducciones. En el cuidado de la salud, la NLU ayuda a extraer información de notas clínicas. En finanzas, analiza informes de ganancias y noticias para señales de negociación.
El interés comercial es fuerte porque la NLU puede automatizar tareas que antes requerían lectura y comprensión humana. Empresas como OpenAI, Anthropic y Google DeepMind invierten mucho en el desarrollo de modelos avanzados de NLU. Los proveedores de nube como Amazon Web Services, Microsoft Azure y Google Cloud ofrecen servicios de NLU como API. Sin embargo, las limitaciones de los sistemas actuales, particularmente su falta de razonamiento robusto de sentido común, siguen siendo una barrera para la comprensión completa.
Desafíos y direcciones futuras
La NLU enfrenta desafíos persistentes, incluidos la ambigüedad, la dependencia del contexto y la necesidad de conocimiento del mundo. Comprender una oración a menudo requiere conocimiento sobre el mundo físico y social que no se declara explícitamente. Por ejemplo, "El trofeo no cabe en la maleta marrón porque es demasiado pequeño" requiere saber qué objeto es pequeño. Los modelos actuales a menudo luchan con tales inferencias pragmáticas.
Las direcciones futuras incluyen integrar la NLU con bases de conocimiento externas, mejorar el aprendizaje con pocos ejemplos y sin ejemplos, y desarrollar modelos que puedan razonar y explicar sus decisiones. Los investigadores también están explorando la comprensión multimodal, donde el lenguaje se combina con la visión y otras modalidades. A partir de principios de la década de 2020, ningún sistema ha logrado una NLU a nivel humano, y sigue siendo un problema abierto en la inteligencia artificial.