La interferencia catastrófica, también conocida como olvido catastrófico, es la tendencia de una red neuronal artificial a olvidar abrupta y drásticamente información previamente aprendida al aprender información nueva. Este fenómeno es un desafío central en el aprendizaje automático y el aprendizaje profundo, particularmente cuando los modelos se entrenan secuencialmente en múltiples tareas. Es una manifestación radical del dilema estabilidad-plasticidad, que se refiere a la dificultad de crear una red que sea sensible a información nueva sin verse perturbada por ella.
Las redes neuronales son un componente clave del enfoque conexionista de la ciencia cognitiva. El problema de la interferencia catastrófica en el modelado de la memoria humana fue señalado por primera vez a la atención científica por investigaciones de McCloskey y Cohen (1989) y Ratcliff (1990). Estos estudios destacaron una diferencia fundamental entre las redes artificiales y la memoria humana: mientras que los humanos típicamente no muestran un olvido tan drástico, las redes de retropropagación estándar a menudo sí lo hacen.
El dilema estabilidad-plasticidad
El dilema estabilidad-plasticidad describe el equilibrio entre la capacidad de un sistema para integrar información nueva (plasticidad) y su capacidad para preservar el conocimiento existente (estabilidad). Las tablas de consulta y las redes conexionistas se encuentran en extremos opuestos de este espectro. Una tabla de consulta permanece completamente estable cuando se añade información nueva, pero no puede generalizar a entradas no vistas. En contraste, las redes conexionistas, como las redes de retropropagación estándar, pueden generalizar a entradas novedosas, pero son altamente sensibles a la información nueva, lo que a menudo conduce a interferencia catastrófica.
Esta sensibilidad es problemática al modelar la memoria humana, porque los humanos generalmente retienen información previamente aprendida mientras adquieren conocimiento nuevo. El contraste sugiere que los sistemas de memoria biológica emplean mecanismos que las redes artificiales carecen, como sistemas de aprendizaje complementarios o consolidación sináptica.
Experimentos de aprendizaje secuencial
McCloskey y Cohen (1989) demostraron la interferencia catastrófica mediante dos experimentos con redes de retropropagación. En el primer experimento, entrenaron una red en hechos de suma de un solo dígito que involucraban el número uno (por ejemplo, 1+1 hasta 9+1 y 1+2 hasta 1+9) hasta que respondiera correctamente a todos. Luego entrenaron la misma red en hechos de suma que involucraban el número dos (por ejemplo, 2+1 hasta 2+9 y 1+2 hasta 9+2). Después de solo un ensayo de entrenamiento en los hechos del dos, el rendimiento de la red en los hechos del uno cayó drásticamente, a menudo produciendo salidas que se asemejaban a respuestas incorrectas. Incluso problemas superpuestos como 2+1 y 1+2 mostraron una perturbación significativa.
En un segundo experimento, McCloskey y Cohen replicaron un estudio clásico sobre interferencia retroactiva en humanos de Barnes y Underwood (1959). Entrenaron una red en asociaciones pareadas (listas A-B y A-C) con patrones de contexto para distinguir las listas. Cuando se entrenó concurrentemente en ambas listas, la red aprendió todas las asociaciones correctamente. Sin embargo, cuando se entrenó secuencialmente (A-B primero, luego A-C), la cantidad de entrenamiento en A-C que producía un 50% de respuestas correctas en humanos llevó a casi un 0% de respuestas correctas para las asociaciones A-B en la red. Las salidas de la red para los estímulos B a menudo se asemejaban a respuestas C, indicando que el nuevo aprendizaje había sobrescrito el conocimiento antiguo.
McCloskey y Cohen intentaron reducir la interferencia mediante varias manipulaciones, incluyendo cambiar el número de unidades ocultas, ajustar la tasa de aprendizaje, sobreentrenar en la lista A-B, congelar ciertos pesos de conexión y alterar los valores objetivo. Ninguna de estas mitigó satisfactoriamente el olvido catastrófico.
Hallazgos sobre memoria de reconocimiento
Ratcliff (1990) extendió estos hallazgos utilizando modelos de retropropagación aplicados a procedimientos estándar de memoria de reconocimiento, donde los elementos se aprendían secuencialmente. Identificó dos problemas principales. Primero, la información bien aprendida se olvidaba catastróficamente a medida que se aprendía información nueva, tanto en redes pequeñas como grandes. Segundo, incluso un solo ensayo de aprendizaje con información nueva causaba una pérdida significativa de información antigua, en paralelo con los resultados de McCloskey y Cohen.
Ratcliff también observó que las salidas a menudo eran una mezcla de entradas previas y nuevas. En redes más grandes, los elementos aprendidos en grupos (por ejemplo, AB luego CD) eran más resistentes al olvido que los elementos aprendidos individualmente (por ejemplo, A luego B luego C), aunque el olvido seguía siendo sustancial. Añadir nuevas unidades ocultas no redujo la interferencia.
Implicaciones para la IA moderna
La interferencia catastrófica sigue siendo un desafío significativo en los sistemas contemporáneos de inteligencia artificial, incluyendo los modelos de lenguaje grandes y las arquitecturas basadas en transformadores. Cuando estos modelos se ajustan finamente en tareas o conjuntos de datos nuevos, pueden perder rendimiento en tareas previamente aprendidas. Este problema es particularmente relevante para el aprendizaje continuo, donde los modelos deben adaptarse a información nueva sin olvidar el conocimiento antiguo.
Los investigadores han desarrollado varias estrategias para mitigar el olvido catastrófico, como el aprendizaje curricular, la poda de modelos y técnicas de regularización. Sin embargo, no existe una solución universal, y el problema sigue siendo un área activa de investigación en la teoría y aplicación de redes neuronales.
Conclusión
La interferencia catastrófica destaca una limitación fundamental de las redes neuronales estándar y subraya la complejidad de replicar la memoria humana. El trabajo de McCloskey y Cohen y Ratcliff estableció el fenómeno y sus características, proporcionando una base para los esfuerzos continuos de construir sistemas de aprendizaje más estables y adaptables.