L'ancrage, en intelligence artificielle, fait référence à la connexion des symboles, des mots ou des représentations utilisés par un système à des référents du monde réel, à une expérience sensorielle ou à des faits externes vérifiables, plutôt que de les laisser se référer uniquement à d'autres symboles au sein du système lui-même. Le problème a été formalisé par le scientifique cognitif Stevan Harnad dans un article de 1990 sur le « problème de l'ancrage des symboles », qui demandait comment un système purement manipulateur de symboles pourrait jamais faire en sorte que ses symboles signifient quelque chose, plutôt que de simplement mélanger des jetons dépourvus de sens selon des règles syntaxiques.
La question est devenue à nouveau urgente avec l'essor des grands modèles de langage, qui sont entraînés purement sur des motifs dans le texte et n'ont aucun contact sensoriel direct avec le monde qu'ils décrivent, une préoccupation étroitement liée à la critique du perroquet stochastique des modèles qui produisent une sortie fluide mais potentiellement dépourvue de sens.
L'ancrage comme problème d'ingénierie
En pratique, « ancrer » la sortie d'un modèle est devenu un terme de l'industrie pour contraindre ses réponses à des sources externes vérifiables plutôt que de se fier purement à la mémoire paramétrique, le plus couramment grâce à la génération augmentée par récupération, où les documents récupérés sont cités ou cités pour réduire l'Hallucination (AI). Les assistants augmentés par recherche et les chatbots d'entreprise sont fréquemment décrits comme produisant des réponses « ancrées » lorsque leurs sorties sont traçables à un passage récupéré spécifique, contrairement à la génération non contrainte tirée purement des données d'entraînement du modèle.
##L'ancrage par l'incarnation et la modalité
Une tradition de recherche distincte soutient que un véritable ancrage nécessite une interaction sensorimotrice avec le monde physique, motivant des travaux en IA incarnée et en robotique, où les représentations d'un système sont façonnées par l'action sur et la perception de son environnement plutôt que par la lecture de texte à son sujet. Les modèles multimodaux et les modèles vision-langage abordent partiellement le problème en reliant le langage à des images, de l'audio ou de la vidéo, donnant aux représentations au moins une ancre perceptuelle, et la recherche connexe sur les modèles du monde tente de donner aux systèmes une simulation prédictive interne de la cause et de l'effet physiques.
##Débat en cours
Que la technologie linguistique actuelle puisse atteindre un ancrage authentique par le texte et les données multimodales seules, ou qu'elle reste nécessairement une forme sophistiquée de complétion de motifs, est non résolu. Certains chercheurs soutiennent que l'ancrage est une question de degré, avec la récupération, l'utilisation d'outils et la perception multimodale ajoutant chacun un ancrage partiel plutôt que de résoudre le problème directement, tandis que d'autres maintiennent que l'ancrage au sens philosophique nécessite une expérience incarnée qu'aucun système actuel ne possède. Le débat se situe près de, mais est distinct de, les questions soulevées par la critique du perroquet stochastique, puisque un système pourrait en principe être bien ancré dans des faits récupérés tout en manquant encore toute compréhension conceptuelle plus profonde de ceux-ci.