Grounding, en inteligencia artificial, se refiere a conectar símbolos, palabras o representaciones utilizadas por un sistema con referentes del mundo real, experiencia sensorial o hechos externos verificables, en lugar de permitir que se refieran solo a otros símbolos dentro del propio sistema. El problema fue formalizado por el científico cognitivo Stevan Harnad en un artículo de 1990 sobre el "problema del anclaje de símbolos", que preguntaba cómo un sistema puramente manipulador de símbolos podría lograr que sus símbolos significaran algo, en lugar de simplemente barajar tokens sin sentido según reglas sintácticas.
La cuestión se volvió nuevamente urgente con el auge de los grandes modelos de lenguaje, que se entrenan únicamente con patrones en texto y no tienen contacto sensorial directo con el mundo que describen, una preocupación estrechamente relacionada con la crítica del loro estocástico a los modelos que producen resultados fluidos pero potencialmente sin significado.
Grounding como problema de ingeniería
En la práctica, "anclar" la salida de un modelo se ha convertido en un término de la industria para restringir sus respuestas a fuentes externas verificables en lugar de depender únicamente de la memoria paramétrica, más comúnmente mediante generación aumentada por recuperación, donde los documentos recuperados se citan o se citan textualmente para reducir la alucinación. Los asistentes mejorados con búsqueda y los chatbots empresariales se describen con frecuencia como productores de respuestas "ancladas" cuando sus salidas son rastreables a un pasaje recuperado específico, en contraste con la generación no restringida derivada puramente de los datos de entrenamiento del modelo.
Grounding mediante embodiment y modalidad
Una tradición de investigación separada sostiene que el anclaje verdadero requiere interacción sensoriomotora con el mundo físico, lo que motiva el trabajo en IA incorporada y robótica, donde las representaciones de un sistema se moldean actuando sobre y percibiendo su entorno en lugar de leer texto sobre él. Los modelos multimodales y de visión y lenguaje abordan parcialmente el problema al vincular el lenguaje con imágenes, audio o video, dando a las representaciones al menos un ancla perceptual, y la investigación relacionada sobre modelos del mundo intenta proporcionar a los sistemas una simulación predictiva interna de causa y efecto físico.
Debate en curso
Si la tecnología del lenguaje actual puede lograr un anclaje genuino solo mediante texto y datos multimodales, o si necesariamente sigue siendo una forma sofisticada de completación de patrones, no está resuelto. Algunos investigadores argumentan que el anclaje es una cuestión de grado, donde la recuperación, el uso de herramientas y la percepción multimodal añaden cada uno un anclaje parcial sin resolver el problema por completo, mientras que otros mantienen que el anclaje en el sentido filosófico requiere experiencia incorporada que ningún sistema actual posee. El debate se sitúa cerca, pero es distinto, de las cuestiones planteadas por la crítica del loro estocástico, ya que un sistema podría en principio estar bien anclado en hechos recuperados mientras carece de cualquier comprensión conceptual más profunda de ellos.