A interferência catastrófica, também conhecida como esquecimento catastrófico, é a tendência de uma rede neural artificial de esquecer abrupta e drasticamente informações previamente aprendidas ao aprender novas informações. Este fenômeno é um desafio central em aprendizado de máquina e aprendizado profundo, particularmente quando modelos são treinados sequencialmente em múltiplas tarefas. É uma manifestação radical do dilema estabilidade-plasticidade, que se refere à dificuldade de criar uma rede que seja sensível a novas informações sem ser perturbada por elas.
As redes neurais são um componente-chave da abordagem conexionista à ciência cognitiva. A questão da interferência catastrófica na modelagem da memória humana foi trazida à atenção científica pela primeira vez por pesquisas de McCloskey e Cohen (1989) e Ratcliff (1990). Esses estudos destacaram uma diferença fundamental entre redes artificiais e memória humana: enquanto os humanos tipicamente não exibem um esquecimento tão drástico, redes de retropropagação padrão frequentemente o fazem.
O Dilema Estabilidade-Plasticidade
O dilema estabilidade-plasticidade descreve o trade-off entre a capacidade de um sistema de integrar novas informações (plasticidade) e sua capacidade de preservar conhecimento existente (estabilidade). Tabelas de consulta e redes conexionistas estão em extremos opostos desse espectro. Uma tabela de consulta permanece completamente estável quando novas informações são adicionadas, mas não consegue generalizar para entradas não vistas. Em contraste, redes conexionistas, como redes de retropropagação padrão, podem generalizar para entradas novas, mas são altamente sensíveis a novas informações, frequentemente levando à interferência catastrófica.
Essa sensibilidade é problemática ao modelar a memória humana, porque os humanos geralmente retêm informações previamente aprendidas enquanto adquirem novos conhecimentos. O contraste sugere que sistemas de memória biológica empregam mecanismos que as redes artificiais não possuem, como sistemas de aprendizado complementares ou consolidação sináptica.
Experimentos de Aprendizado Sequencial
McCloskey e Cohen (1989) demonstraram a interferência catastrófica por meio de dois experimentos com redes de retropropagação. No primeiro experimento, eles treinaram uma rede em fatos de adição de um dígito envolvendo o número um (por exemplo, 1+1 até 9+1 e 1+2 até 1+9) até que ela respondesse corretamente a todos. Em seguida, treinaram a mesma rede em fatos de adição envolvendo o número dois (por exemplo, 2+1 até 2+9 e 1+2 até 9+2). Após apenas uma tentativa de treinamento nos fatos do dois, o desempenho da rede nos fatos do um caiu drasticamente, frequentemente produzindo saídas que se assemelhavam a respostas incorretas. Até mesmo problemas sobrepostos como 2+1 e 1+2 mostraram perturbação significativa.
Em um segundo experimento, McCloskey e Cohen replicaram um estudo clássico sobre interferência retroativa em humanos por Barnes e Underwood (1959). Eles treinaram uma rede em pares associados (listas A-B e A-C) com padrões de contexto para distinguir as listas. Quando treinada simultaneamente em ambas as listas, a rede aprendeu todas as associações corretamente. No entanto, quando treinada sequencialmente (A-B primeiro, depois A-C), a quantidade de treinamento em A-C que produzia 50% de respostas corretas em humanos levou a quase 0% de respostas corretas para as associações A-B na rede. As saídas da rede para prompts B frequentemente se assemelhavam a respostas C, indicando que o novo aprendizado havia sobrescrito o conhecimento antigo.
McCloskey e Cohen tentaram reduzir a interferência por meio de várias manipulações, incluindo alterar o número de unidades ocultas, ajustar a taxa de aprendizado, treinar excessivamente na lista A-B, congelar certos pesos de conexão e alterar valores-alvo. Nenhuma delas mitigou satisfatoriamente o esquecimento catastrófico.
Descobertas sobre Memória de Reconhecimento
Ratcliff (1990) estendeu esses achados usando modelos de retropropagação aplicados a procedimentos padrão de memória de reconhecimento, onde itens eram aprendidos sequencialmente. Ele identificou dois problemas principais. Primeiro, informações bem aprendidas eram catastróficamente esquecidas à medida que novas informações eram aprendidas, tanto em redes pequenas quanto grandes. Segundo, até mesmo uma única tentativa de aprendizado com novas informações causava perda significativa de informações antigas, paralelamente aos resultados de McCloskey e Cohen.
Ratcliff também observou que as saídas frequentemente eram uma mistura de entradas anteriores e novas. Em redes maiores, itens aprendidos em grupos (por exemplo, AB e depois CD) eram mais resistentes ao esquecimento do que itens aprendidos individualmente (por exemplo, A, depois B, depois C), embora o esquecimento permanecesse substancial. Adicionar novas unidades ocultas não reduziu a interferência.
Implicações para a IA Moderna
A interferência catastrófica permanece um desafio significativo em sistemas contemporâneos de inteligência artificial, incluindo modelos de linguagem de grande escala e arquiteturas baseadas em transformadores. Quando esses modelos são ajustados finamente em novas tarefas ou conjuntos de dados, eles podem perder desempenho em tarefas previamente aprendidas. Essa questão é particularmente relevante para o aprendizado contínuo, onde os modelos devem se adaptar a novas informações sem esquecer conhecimento antigo.
Pesquisadores desenvolveram várias estratégias para mitigar o esquecimento catastrófico, como aprendizado curricular, poda de modelos e técnicas de regularização. No entanto, não existe solução universal, e o problema permanece uma área ativa de pesquisa em teoria e aplicação de redes neurais.
Conclusão
A interferência catastrófica destaca uma limitação fundamental das redes neurais padrão e sublinha a complexidade de replicar a memória humana. O trabalho de McCloskey e Cohen e Ratcliff estabeleceu o fenômeno e suas características, fornecendo uma base para esforços contínuos para construir sistemas de aprendizado mais estáveis e adaptáveis.