La confabulation est la production de souvenirs ou de récits fabriqués, déformés ou mal interprétés, sans intention consciente de tromper. En psychologie humaine, il s'agit d'une erreur de mémoire où le cerveau comble les lacunes de la remémoration avec des informations plausibles mais incorrectes, souvent présentées avec une conviction sincère. En intelligence artificielle, en particulier dans les grands modèles de langage, la confabulation désigne la génération de textes fluides, cohérents et factuellement incorrects que le modèle présente comme s'ils étaient vrais. Ce phénomène se distingue du mensonge, car ni l'humain ni l'IA ne cherchent délibérément à tromper ; la fausseté découle de processus cognitifs ou computationnels sous-jacents.
Le terme provient de la neuropsychologie clinique, où il a été utilisé pour la première fois pour décrire des patients atteints d'amnésie ou de lésions cérébrales qui produisaient de faux souvenirs. Au fil du temps, le concept a été étendu pour décrire des comportements similaires chez des individus en bonne santé et, plus récemment, dans les systèmes d'IA générative. Dans les deux contextes, la confabulation met en lumière la nature constructive de la mémoire et la base probabiliste de la génération de langage, soulevant des questions importantes sur la fiabilité, la confiance et les limites de la connaissance.
Mécanismes dans la mémoire humaine
La mémoire humaine n'est pas un dispositif d'enregistrement parfait, mais un processus reconstructif. Lorsqu'on se souvient d'un événement, le cerveau assemble des fragments d'informations stockées, comblant les lacunes avec des inférences basées sur des connaissances antérieures, des attentes et l'état émotionnel. Cette reconstruction peut conduire à la confabulation, surtout lorsque la trace mnésique d'origine est faible ou ambiguë. Les études neuropsychologiques montrent que la confabulation est plus fréquente chez les individus présentant des lésions des lobes frontaux ou de l'hippocampe, des zones critiques pour la récupération et le contrôle de la mémoire. Par exemple, les patients atteints du syndrome de Korsakoff, une condition souvent liée à une consommation chronique d'alcool, confabulent fréquemment des histoires élaborées pour masquer des pertes de mémoire. Chez les personnes en bonne santé, la confabulation peut survenir sous le stress, la fatigue ou des questions suggestives, comme le démontrent les recherches classiques sur les témoignages oculaires.
Confabulation dans les systèmes d'IA
En intelligence artificielle, la confabulation émerge de l'architecture des réseaux de neurones et du processus d'entraînement des modèles de apprentissage profond. Les grands modèles de langage sont entraînés à prédire le jeton suivant dans une séquence en se basant sur des motifs présents dans d'énormes corpus de textes. Pendant l'inférence, ils génèrent du texte en échantillonnant à partir d'une distribution de probabilités sur les continuations possibles. Ce mécanisme probabiliste ne distingue pas intrinsèquement le vrai du faux ; il vise uniquement la plausibilité linguistique. Par conséquent, le modèle peut produire des réponses confiantes, grammaticalement correctes et contextuellement appropriées, mais factuellement erronées. Ce comportement est parfois appelé « hallucination » dans la littérature sur l'IA, mais la confabulation est un terme plus précis lorsque la sortie est un récit cohérent plutôt qu'une erreur aléatoire.
Causes et facteurs contributifs
Plusieurs facteurs augmentent la probabilité de confabulation dans les systèmes d'IA. Des données d'entraînement contenant des inexactitudes, des biais ou des contradictions peuvent être apprises et reproduites. Le paramètre de température du modèle, qui contrôle le caractère aléatoire de l'échantillonnage, joue également un rôle : des températures plus élevées conduisent à des sorties plus diverses mais potentiellement moins précises. De plus, l'absence d'une base de connaissances ancrée ou de vérification en temps réel signifie que le modèle ne peut pas vérifier la véracité de ses propres déclarations. Contrairement aux systèmes augmentés par récupération qui accèdent à des bases de données externes, un modèle autonome repose uniquement sur ses paramètres internes, qui encodent des motifs statistiques plutôt que des faits vérifiés. L'architecture transformer, introduite en 2017, a permis à ces modèles de gérer des dépendances à longue portée, mais n'a pas résolu le problème fondamental de la fiabilité factuelle.
Implications et stratégies d'atténuation
La confabulation a des implications significatives pour le déploiement de l'IA dans des domaines à enjeux élevés tels que la santé, les conseils juridiques, l'éducation et le service client. Un modèle qui fournit avec assurance des informations médicales incorrectes ou des citations juridiques erronées pourrait causer des dommages réels. Pour atténuer ce problème, les développeurs emploient plusieurs stratégies. Une approche est le apprentissage par renforcement à partir de retours d'IA, où les modèles sont entraînés à préférer des réponses véridiques. Une autre consiste à intégrer des sources de connaissances externes ou des mécanismes de vérification des faits pendant la génération. L'élagage de modèle et l'ajustement fin sur des ensembles de données organisés peuvent également réduire la confabulation en alignant le modèle plus étroitement sur des informations fiables. Cependant, aucune méthode n'élimine complètement le problème, et, au milieu des années 2020, la confabulation reste un domaine de recherche actif en apprentissage automatique et en IA générative.
Distinguer la confabulation des concepts connexes
La confabulation est souvent confondue avec d'autres termes, mais des distinctions importantes existent. Contrairement au mensonge, la confabulation n'implique aucune intention de tromper ; le locuteur ou le modèle croit que la sortie est vraie. Elle diffère d'une simple erreur, qui peut être aléatoire ou facilement corrigée, car les récits confabulés sont internement cohérents et persuasifs. En IA, la confabulation est parfois utilisée de manière interchangeable avec « hallucination », mais l'hallucination peut également désigner des sorties absurdes ou hors sujet, tandis que la confabulation décrit spécifiquement des faussetés plausibles. Comprendre ces différences est crucial pour développer des métriques d'évaluation et des interfaces utilisateur qui transmettent de manière appropriée la fiabilité du contenu généré par l'IA.
Orientations futures
La recherche sur la confabulation progresse sur plusieurs fronts. Les scientifiques cognitifs étudient comment la reconstruction de la mémoire humaine peut informer la conception de l'IA, menant potentiellement à des modèles qui distinguent mieux les faits mémorisés des suppositions inférées. En IA, les efforts se concentrent sur l'amélioration des fonctions de perte pour pénaliser les inexactitudes factuelles, le développement de techniques de augmentation de données pour exposer les modèles à diverses déclarations vraies, et la création de référentiels qui mesurent les taux de confabulation. Des entreprises comme OpenAI, Anthropic et Google DeepMind ont publié des recherches sur la réduction des hallucinations, bien que la documentation publique des techniques spécifiques reste limitée. Alors que les systèmes d'IA deviennent plus intégrés dans la vie quotidienne, traiter la confabulation sera essentiel pour établir la confiance et garantir une utilisation responsable.
Voir aussi
- Hallucination (AI)
- mémoire
- traitement du langage naturel
- biais cognitif