L'interférence catastrophique, également connue sous le nom d'oubli catastrophique, est la tendance d'un réseau de neurones artificiels à oublier brusquement et radicalement des informations précédemment apprises lors de l'apprentissage de nouvelles informations. Ce phénomène constitue un défi central dans l'apprentissage automatique et l'apprentissage profond, en particulier lorsque les modèles sont entraînés séquentiellement sur plusieurs tâches. Il s'agit d'une manifestation radicale du dilemme stabilité-plasticité, qui fait référence à la difficulté de créer un réseau sensible aux nouvelles informations sans être perturbé par celles-ci.
Les réseaux de neurones sont un composant clé de l'approche connexionniste des sciences cognitives. La question de l'interférence catastrophique dans la modélisation de la mémoire humaine a été portée à l'attention scientifique pour la première fois par les recherches de McCloskey et Cohen (1989) et de Ratcliff (1990). Ces études ont mis en évidence une différence fondamentale entre les réseaux artificiels et la mémoire humaine : alors que les humains ne présentent généralement pas un oubli aussi drastique, les réseaux à rétropropagation standard le font souvent.
Le dilemme stabilité-plasticité
Le dilemme stabilité-plasticité décrit le compromis entre la capacité d'un système à intégrer de nouvelles informations (plasticité) et sa capacité à préserver les connaissances existantes (stabilité). Les tables de correspondance et les réseaux connexionnistes se situent aux extrémités opposées de ce spectre. Une table de correspondance reste complètement stable lorsque de nouvelles informations sont ajoutées, mais ne peut pas généraliser à des entrées non vues. En revanche, les réseaux connexionnistes, tels que les réseaux à rétropropagation standard, peuvent généraliser à des entrées nouvelles mais sont très sensibles aux nouvelles informations, ce qui conduit souvent à une interférence catastrophique.
Cette sensibilité pose problème lors de la modélisation de la mémoire humaine, car les humains conservent généralement les informations précédemment apprises tout en acquérant de nouvelles connaissances. Ce contraste suggère que les systèmes de mémoire biologique emploient des mécanismes que les réseaux artificiels ne possèdent pas, tels que des systèmes d'apprentissage complémentaires ou une consolidation synaptique.
Expériences d'apprentissage séquentiel
McCloskey et Cohen (1989) ont démontré l'interférence catastrophique à travers deux expériences avec des réseaux à rétropropagation. Dans la première expérience, ils ont entraîné un réseau sur des faits d'addition à un seul chiffre impliquant le nombre un (par exemple, 1+1 à 9+1 et 1+2 à 1+9) jusqu'à ce qu'il réponde correctement à tous. Ils ont ensuite entraîné le même réseau sur des faits d'addition impliquant le nombre deux (par exemple, 2+1 à 2+9 et 1+2 à 9+2). Après un seul essai d'entraînement sur les faits de deux, la performance du réseau sur les faits de un a chuté de manière spectaculaire, produisant souvent des réponses ressemblant à des réponses incorrectes. Même des problèmes se chevauchant comme 2+1 et 1+2 ont montré une perturbation significative.
Dans une deuxième expérience, McCloskey et Cohen ont répliqué une étude classique sur l'interférence rétroactive chez les humains menée par Barnes et Underwood (1959). Ils ont entraîné un réseau sur des associations appariées (listes A-B et A-C) avec des motifs de contexte pour distinguer les listes. Lorsqu'il était entraîné simultanément sur les deux listes, le réseau apprenait correctement toutes les associations. Cependant, lorsqu'il était entraîné séquentiellement (d'abord A-B, puis A-C), la quantité d'entraînement sur A-C qui produisait 50 % de réponses correctes chez les humains conduisait à près de 0 % de réponses correctes pour les associations A-B dans le réseau. Les sorties du réseau pour les stimuli B ressemblaient souvent à des réponses C, indiquant que le nouvel apprentissage avait écrasé les anciennes connaissances.
McCloskey et Cohen ont tenté de réduire l'interférence par diverses manipulations, notamment en modifiant le nombre d'unités cachées, en ajustant le taux d'apprentissage, en surentraînant sur la liste A-B, en gelant certains poids de connexion et en modifiant les valeurs cibles. Aucune de ces approches n'a atténué de manière satisfaisante l'oubli catastrophique.
Résultats sur la mémoire de reconnaissance
Ratcliff (1990) a étendu ces résultats en utilisant des modèles de rétropropagation appliqués à des procédures standard de mémoire de reconnaissance, où les éléments étaient appris séquentiellement. Il a identifié deux problèmes majeurs. Premièrement, les informations bien apprises étaient oubliées de manière catastrophique à mesure que de nouvelles informations étaient apprises, à la fois dans les petits et les grands réseaux. Deuxièmement, même un seul essai d'apprentissage avec de nouvelles informations provoquait une perte significative d'anciennes informations, ce qui correspond aux résultats de McCloskey et Cohen.
Ratcliff a également observé que les sorties étaient souvent un mélange des entrées précédentes et nouvelles. Dans les réseaux plus grands, les éléments appris en groupes (par exemple, AB puis CD) étaient plus résistants à l'oubli que les éléments appris individuellement (par exemple, A puis B puis C), bien que l'oubli reste substantiel. L'ajout de nouvelles unités cachées n'a pas réduit l'interférence.
Implications pour l'IA moderne
L'interférence catastrophique reste un défi significatif dans les systèmes contemporains d'intelligence artificielle, y compris les modèles de langage de grande taille et les architectures basées sur les transformeurs. Lorsque ces modèles sont affinés sur de nouvelles tâches ou de nouveaux ensembles de données, ils peuvent perdre en performance sur des tâches précédemment apprises. Ce problème est particulièrement pertinent pour l'apprentissage continu, où les modèles doivent s'adapter à de nouvelles informations sans oublier les anciennes connaissances.
Les chercheurs ont développé diverses stratégies pour atténuer l'oubli catastrophique, telles que l'apprentissage par curriculum, l'élagage de modèles et des techniques de régularisation. Cependant, aucune solution universelle n'existe, et le problème reste un domaine de recherche actif dans la théorie et l'application des réseaux de neurones.
Conclusion
L'interférence catastrophique met en évidence une limitation fondamentale des réseaux de neurones standard et souligne la complexité de la réplication de la mémoire humaine. Les travaux de McCloskey et Cohen et de Ratcliff ont établi le phénomène et ses caractéristiques, fournissant une base pour les efforts continus visant à construire des systèmes d'apprentissage plus stables et plus adaptables.