El análisis semántico explícito (ESA) es una representación vectorial de texto utilizada en el procesamiento del lenguaje natural y la recuperación de información. Representa palabras individuales o documentos completos como vectores en un espacio de alta dimensión, donde cada dimensión corresponde a un concepto definido explícitamente por humanos, como un artículo de Wikipedia. La técnica fue diseñada por Evgeniy Gabrilovich y Shaul Markovitch para mejorar la categorización de texto y calcular la relacionabilidad semántica entre textos mediante la similitud del coseno. El nombre contrasta con el análisis semántico latente (LSA), porque el uso de una base de conocimiento en el ESA permite asignar etiquetas legibles por humanos a los conceptos que forman el espacio vectorial.
El ESA opera aprovechando un corpus de documentos como base de conocimiento. En su forma básica, una palabra se representa como un vector columna en la matriz de frecuencia de término-frecuencia inversa de documento (tf-idf) del corpus, y un documento se representa como el centroide de los vectores de sus palabras constituyentes. Aunque la Wikipedia en inglés es el corpus típico, también se han utilizado otras colecciones, como el Open Directory Project.
Modelo
La variante básica del ESA comienza con una colección de textos, como todos los artículos de Wikipedia, que suman N documentos. Cada documento se convierte en una "bolsa de palabras" - un histograma de frecuencia de términos - y se almacena en un índice invertido. Para cualquier palabra dada, el índice invertido devuelve el conjunto de documentos que contienen esa palabra, con cada documento puntuado según la frecuencia con la que aparece la palabra, ponderada por el número total de palabras en el documento. Matemáticamente, esta salida es un vector N-dimensional de puntuaciones palabra-documento, donde los documentos que no contienen la palabra reciben una puntuación de cero.
Para calcular la relacionabilidad de dos palabras, sus vectores u y v se comparan usando la similitud del coseno: sim(u, v) = (u · v) / (||u|| ||v||). Esto produce una estimación numérica de la relacionabilidad semántica. El esquema se extiende de palabras individuales a textos de múltiples palabras sumando los vectores de todas las palabras en el texto, produciendo una representación a nivel de documento.
Análisis
El ESA se propuso originalmente bajo el supuesto de que la base de conocimiento contiene conceptos ortogonales temáticamente. Sin embargo, Maik Anderka y Benno Stein demostraron posteriormente que el ESA también mejora el rendimiento de la recuperación de información cuando se basa en el corpus Reuters de artículos de noticias, que no satisface la propiedad de ortogonalidad. En sus experimentos, las historias de noticias sirvieron como "conceptos". Esta observación se explicó mediante vínculos entre el ESA y el modelo de espacio vectorial generalizado. Gabrilovich y Markovitch respondieron señalando que el resultado de Anderka y Stein se logró usando una sola aplicación del ESA para la similitud de texto y una colección de prueba pequeña y homogénea de solo 50 documentos de noticias.
Aplicaciones
Relacionabilidad de palabras
El ESA es considerado por sus autores como una medida de relacionabilidad semántica, en oposición a la similitud semántica. En conjuntos de datos de referencia para la relacionabilidad de palabras, el ESA supera a otros algoritmos, incluidas las medidas de similitud semántica basadas en WordNet y los modelos de lenguaje de redes neuronales de skip-gram como Word2vec. El enfoque se ha aplicado en tareas de categorización de texto, donde la representación basada en conceptos mejora la precisión de la clasificación.
Relacionabilidad de documentos
El ESA se utiliza en paquetes de software comercial para calcular la relacionabilidad de documentos. A veces se aplican restricciones específicas de dominio al modelo ESA para proporcionar una coincidencia de documentos más robusta en campos especializados. La capacidad de la técnica para producir vectores de concepto interpretables la hace valiosa para aplicaciones que requieren representaciones transparentes del contenido textual.
Extensiones
El análisis semántico explícito multilingüe (CL-ESA) es una generalización multilingüe del ESA. El CL-ESA aprovecha una colección de referencia multilingüe alineada por documentos, nuevamente típicamente Wikipedia, para representar un documento como un vector de concepto independiente del idioma. La relacionabilidad de dos documentos en diferentes idiomas se evalúa mediante la similitud del coseno entre sus representaciones vectoriales correspondientes. Esta extensión permite la recuperación de información multilingüe y la comparación de textos a través de fronteras lingüísticas.
El ESA también se ha conectado con desarrollos más amplios en aprendizaje automático y inteligencia artificial, particularmente en el contexto de tareas de procesamiento del lenguaje natural. Su espacio de concepto explícito e interpretable lo distingue de enfoques posteriores de aprendizaje profundo como los embebidos de redes neuronales, aunque ambos buscan capturar relaciones semánticas en el texto. El método sigue siendo relevante como técnica fundacional para la representación semántica, complementando modelos más recientes como los modelos de lenguaje grandes y las arquitecturas de transformadores.