El aprendizaje hebbiano contrastivo (CHL) es una regla de aprendizaje para redes neuronales que actualiza los pesos sinápticos comparando la actividad de la red en dos fases distintas: una fase libre y una fase fijada. A diferencia de la retropropagación de errores estándar, que requiere un pase hacia adelante y otro hacia atrás con señales de error explícitas, el CHL se basa en actualizaciones locales de estilo hebbiano que utilizan la diferencia entre las correlaciones de las activaciones neuronales en las dos fases. Esto lo convierte en un candidato para el aprendizaje biológicamente plausible en el cerebro y en un algoritmo fundacional para modelos basados en energía, como la máquina de Boltzmann y sus variantes.
La regla fue desarrollada en las décadas de 1980 y 1990, con contribuciones significativas de investigadores como Paul Werbos, quien formuló antes la retropropagación, y Geoffrey Hinton, quien exploró el aprendizaje contrastivo en el contexto de las máquinas de Boltzmann. La idea central es que una red puede aprender primero asentándose en un estado que refleje su entrada (la fase libre), luego fijándose a una salida objetivo (la fase fijada) y, finalmente, ajustando los pesos para reducir la discrepancia entre estos dos estados. Este proceso minimiza una función de energía, llevando a la red hacia una configuración donde el estado fijado es un atractor de baja energía.
Mecanismo y Formulación Matemática
En una implementación típica de CHL, la red es una arquitectura recurrente o feedforward con unidades visibles (entrada y salida) y unidades ocultas. Durante la fase libre, la red recibe una entrada y las activaciones se propagan a través de ella hasta alcanzar un estado estable, a menudo mediante un asentamiento iterativo. En la fase fijada, las unidades de salida se fijan a los valores objetivo deseados, y la red nuevamente se asienta hasta un nuevo equilibrio. La actualización del peso para cada conexión se da entonces por la diferencia entre el producto de las activaciones en la fase fijada y el producto en la fase libre, escalado por una tasa de aprendizaje.
Matemáticamente, para un peso \(w_{ij}\) que conecta la unidad \(i\) con la unidad \(j\), la actualización es \(\Delta w_{ij} = \eta (x_i^+ x_j^+ - x_i^- x_j^-)\), donde \(x^+\) denota las activaciones en la fase fijada, \(x^-\) denota las activaciones en la fase libre, y \(\eta\) es la tasa de aprendizaje. Esta regla es una forma de divergencia contrastiva, un concepto formalizado más tarde por Hinton en 2002 para entrenar máquinas de Boltzmann restringidas. La actualización es local en el sentido de que solo requiere información disponible en las neuronas pre- y postsinápticas, alineándose con el postulado de Hebb de que "las neuronas que se disparan juntas, se conectan juntas", pero con una resta crucial que evita el crecimiento ilimitado de los pesos.
Relación con la Retropropagación
El CHL se contrasta a menudo con el algoritmo de retropropagación, que domina el aprendizaje profundo moderno. La retropropagación calcula gradientes exactos de una función de pérdida utilizando la regla de la cadena, requiriendo una señal de error global que se propaga hacia atrás a través de la red. Esto es computacionalmente eficiente pero biológicamente implausible porque requiere señalización precisa y sincronizada y transporte de pesos. El CHL, por el contrario, usa solo información local y puede implementarse en sistemas dinámicos de tiempo continuo, lo que lo hace más plausible como modelo del aprendizaje cortical.
Estudios empíricos han mostrado que el CHL puede aproximar la retropropagación en ciertas arquitecturas, particularmente en redes feedforward con pesos simétricos. En el límite de tasas de aprendizaje pequeñas y tiempo de asentamiento suficiente, la actualización de CHL aproxima el gradiente de una pérdida de error cuadrático. Sin embargo, el CHL es generalmente más lento en converger y menos escalable a redes muy profundas, razón por la cual no ha reemplazado a la retropropagación en aplicaciones prácticas como grandes modelos de lenguaje o transformadores.
Aplicaciones y Variantes
El CHL se ha aplicado a una variedad de problemas, incluyendo memoria asociativa, completación de patrones y clasificación supervisada. Es la regla de aprendizaje subyacente a la máquina de Boltzmann, una red recurrente estocástica que fue influyente en la década de 1980 pero que cayó en desuso debido a su costo computacional. Variantes como la regla de aprendizaje hebbiano contrastivo de campo medio se han desarrollado para manejar redes deterministas, y la idea se ha extendido a redes neuronales de picos, donde se utiliza para entrenar redes de neuronas integra-y-dispara.
En las décadas de 2010 y 2020, el interés en el CHL revivió como parte de la búsqueda de alternativas biológicamente plausibles a la retropropagación. Investigadores en instituciones como MIT CSAIL y Stanford AI Lab han explorado enfoques híbridos que combinan el CHL con reglas de aprendizaje locales para entrenar redes profundas sin señales de error globales. Estos esfuerzos están motivados por el objetivo de entender el aprendizaje cortical y construir hardware neuromórfico energéticamente eficiente.
Limitaciones y Desafíos
Una limitación importante del CHL es su costo computacional. El proceso de asentamiento requiere múltiples iteraciones para alcanzar el equilibrio, y el procedimiento de dos fases duplica el tiempo de inferencia en comparación con un solo pase hacia adelante. Para redes grandes, esto se vuelve prohibitivo. Además, el CHL es sensible a la elección de la dinámica de asentamiento y la tasa de aprendizaje; elecciones pobres pueden llevar a oscilaciones o convergencia lenta. El requisito de pesos simétricos, necesario para que la función de energía esté bien definida, es otra restricción que no se cumple en la mayoría de los circuitos biológicos.
Otro desafío es que el CHL no maneja naturalmente activaciones no diferenciables o unidades estocásticas sin aproximaciones adicionales. Mientras que la divergencia contrastiva proporciona una aproximación práctica para máquinas de Boltzmann restringidas, no se garantiza que converja al gradiente verdadero, y su rendimiento se degrada en arquitecturas más profundas. Estos problemas han limitado la adopción del CHL en el aprendizaje automático convencional, donde la retropropagación sigue siendo el estándar.
Legado e Investigación Actual
A pesar de sus limitaciones, el CHL ha dejado un impacto duradero en el campo. Proporcionó una base teórica para los modelos basados en energía e influyó en el desarrollo de métodos contrastivos en el aprendizaje no supervisado, como la codificación predictiva contrastiva y SimCLR. El concepto de comparar estados libres y fijados también subyace a técnicas modernas como la propagación de equilibrio, introducida por Scellier y Bengio en 2017, que utiliza un enfoque de dos fases similar para aproximar gradientes en redes recurrentes.
La investigación actual sobre CHL se centra en hacerlo más escalable y robusto. Por ejemplo, trabajos recientes han explorado el uso de CHL en redes neuronales de picos para computación en el borde, donde las reglas de aprendizaje locales son esenciales debido a las restricciones de hardware. Otros esfuerzos investigan combinar CHL con dropout y normalización por lotes para mejorar la generalización. Aunque es poco probable que reemplace a la retropropagación en el corto plazo, el CHL sigue siendo un área vibrante de estudio para aquellos interesados en la intersección de la neurociencia y la inteligencia artificial.