A aprendizagem Hebbiana contrastiva (CHL, do inglês Contrastive Hebbian learning) é uma regra de aprendizado para redes neurais que atualiza os pesos sinápticos comparando a atividade da rede em duas fases distintas: uma fase livre e uma fase fixada. Diferentemente da retropropagação de erro padrão, que requer uma passagem direta e uma passagem reversa separadas com sinais de erro explícitos, a CHL depende de atualizações locais, no estilo Hebbiano, que usam a diferença entre as correlações das ativações dos neurônios nas duas fases. Isso a torna uma candidata para o aprendizado biologicamente plausível no cérebro e um algoritmo fundamental para modelos baseados em energia, como a máquina de Boltzmann e suas variantes.
A regra foi desenvolvida nas décadas de 1980 e 1990, com contribuições significativas de pesquisadores como Paul Werbos, que formulou anteriormente a retropropagação, e Geoffrey Hinton, que explorou o aprendizado contrastivo no contexto das máquinas de Boltzmann. A ideia central é que uma rede pode aprender primeiro se estabelecendo em um estado que reflita sua entrada (a fase livre), depois sendo fixada a uma saída alvo (a fase fixada) e, finalmente, ajustando os pesos para reduzir a discrepância entre esses dois estados. Esse processo minimiza uma função de energia, conduzindo a rede a uma configuração em que o estado fixado é um atrator de baixa energia.
Mecanismo e Formulação Matemática
Em uma implementação típica de CHL, a rede é uma arquitetura recorrente ou feedforward com unidades visíveis (entrada e saída) e unidades ocultas. Durante a fase livre, a rede recebe uma entrada e as ativações se propagam pela rede até atingir um estado estável, muitas vezes por meio de um assentamento iterativo. Na fase fixada, as unidades de saída são fixadas nos valores alvo desejados, e a rede novamente se estabelece em um novo equilíbrio. A atualização de peso para cada conexão é então dada pela diferença entre o produto das ativações na fase fixada e o produto na fase livre, escalada por uma taxa de aprendizado.
Matematicamente, para um peso \(w_{ij}\) conectando a unidade \(i\) à unidade \(j\), a atualização é \(\Delta w_{ij} = \eta (x_i^+ x_j^+ - x_i^- x_j^-)\), onde \(x^+\) denota as ativações na fase fixada, \(x^-\) denota as ativações na fase livre, e \(\eta\) é a taxa de aprendizado. Essa regra é uma forma de divergência contrastiva, um conceito posteriormente formalizado por Hinton em 2002 para treinar máquinas de Boltzmann restritas. A atualização é local no sentido de que requer apenas informações disponíveis nos neurônios pré e pós-sinápticos, alinhando-se ao postulado de Hebb de que "neurônios que disparam juntos, conectam-se juntos", mas com uma subtração crucial que impede o crescimento ilimitado dos pesos.
Relação com a Retropropagação
A CHL é frequentemente contrastada com o algoritmo de retropropagação, que domina o aprendizado profundo moderno. A retropropagação calcula gradientes exatos de uma função de perda usando a regra da cadeia, exigindo um sinal de erro global que é propagado para trás pela rede. Isso é computacionalmente eficiente, mas biologicamente implausível, pois requer sinalização precisa e sincronizada e transporte de pesos. A CHL, por outro lado, usa apenas informações locais e pode ser implementada em sistemas dinâmicos de tempo contínuo, tornando-a mais plausível como um modelo de aprendizado cortical.
Estudos empíricos mostraram que a CHL pode aproximar a retropropagação em certas arquiteturas, particularmente em redes feedforward com pesos simétricos. No limite de pequenas taxas de aprendizado e tempo de assentamento suficiente, a atualização da CHL aproxima o gradiente de uma perda de erro quadrático. No entanto, a CHL é geralmente mais lenta para convergir e menos escalável para redes muito profundas, razão pela qual não substituiu a retropropagação em aplicações práticas como grandes modelos de linguagem ou transformers.
Aplicações e Variantes
A CHL foi aplicada a uma variedade de problemas, incluindo memória associativa, conclusão de padrões e classificação supervisionada. É a regra de aprendizado subjacente à máquina de Boltzmann, uma rede recorrente estocástica que foi influente na década de 1980, mas caiu em desuso devido ao custo computacional. Variantes como a regra de aprendizado Hebbiano contrastivo de campo médio foram desenvolvidas para lidar com redes determinísticas, e a ideia foi estendida a redes neurais de picos, onde é usada para treinar redes de neurônios integra-e-dispara.
Nas décadas de 2010 e 2020, o interesse na CHL reviveu como parte da busca por alternativas biologicamente plausíveis à retropropagação. Pesquisadores em instituições como MIT CSAIL e Stanford AI Lab exploraram abordagens híbridas que combinam CHL com regras de aprendizado local para treinar redes profundas sem sinais de erro globais. Esses esforços são motivados pelo objetivo de entender o aprendizado cortical e construir hardware neuromórfico energeticamente eficiente.
Limitações e Desafios
Uma limitação importante da CHL é seu custo computacional. O processo de assentamento requer múltiplas iterações para atingir o equilíbrio, e o procedimento de duas fases dobra o tempo de inferência em comparação com uma única passagem direta. Para redes grandes, isso se torna proibitivo. Além disso, a CHL é sensível à escolha da dinâmica de assentamento e da taxa de aprendizado; escolhas inadequadas podem levar a oscilações ou convergência lenta. O requisito de pesos simétricos, necessário para que a função de energia seja bem definida, é outra restrição que não se aplica à maioria dos circuitos biológicos.
Outro desafio é que a CHL não lida naturalmente com ativações não diferenciáveis ou unidades estocásticas sem aproximações adicionais. Embora a divergência contrastiva forneça uma aproximação prática para máquinas de Boltzmann restritas, não há garantia de que ela convirja para o gradiente verdadeiro, e seu desempenho degrada em arquiteturas mais profundas. Esses problemas limitaram a adoção da CHL no aprendizado de máquina mainstream, onde a retropropagação permanece o padrão.
Legado e Pesquisa Atual
Apesar de suas limitações, a CHL deixou um impacto duradouro no campo. Ela forneceu uma base teórica para modelos baseados em energia e influenciou o desenvolvimento de métodos contrastivos em aprendizado não supervisionado, como codificação preditiva contrastiva e SimCLR. O conceito de comparar estados livres e fixados também fundamenta técnicas modernas como a propagação de equilíbrio, introduzida por Scellier e Bengio em 2017, que usa uma abordagem de duas fases semelhante para aproximar gradientes em redes recorrentes.
A pesquisa atual sobre CHL foca em torná-la mais escalável e robusta. Por exemplo, trabalhos recentes exploraram o uso de CHL em redes neurais de picos para computação de borda, onde regras de aprendizado local são essenciais devido a restrições de hardware. Outros esforços investigam a combinação de CHL com dropout e normalização em lote para melhorar a generalização. Embora seja improvável que substitua a retropropagação no curto prazo, a CHL permanece uma área vibrante de estudo para aqueles interessados na interseção entre neurociência e inteligência artificial.