GeneRec est un algorithme d'apprentissage pour les réseaux de neurones introduit par Geoffrey Hinton en 1989. Il a été conçu comme une alternative biologiquement plausible à la rétropropagation, visant à expliquer comment le cerveau pourrait ajuster les poids synaptiques sans nécessiter de signal d'erreur global ni de calcul exact de dérivées. Le nom dérive de « gene » (comme dans genèse) et de « rec » (pour récurrent), reflétant ses racines dans la théorie des réseaux récurrents et son objectif de générer des règles d'apprentissage à partir de schémas d'activité locaux.
Contrairement à la rétropropagation standard, qui propage les signaux d'erreur vers l'arrière à travers le réseau, GeneRec utilise une règle d'apprentissage hebbienne contrastive. Il fonctionne en deux phases : une phase « plus » où le réseau est fixé à une sortie cible, et une phase « moins » où le réseau fonctionne librement. Les mises à jour des poids sont ensuite calculées comme la différence entre les corrélations des activités pré- et post-synaptiques dans ces deux phases. Cette règle locale la rend plus compatible avec les contraintes biologiques, car elle ne nécessite que des informations disponibles à chaque synapse.
Fondements théoriques
GeneRec s'appuie sur des travaux antérieurs en apprentissage automatique et en neurosciences computationnelles, en particulier le concept d'apprentissage contrastif. L'algorithme est étroitement lié à la règle d'apprentissage des machines de Boltzmann, mais il s'applique à des réseaux déterministes avec des activations continues. L'idée clé de Hinton était que la différence entre les statistiques des phases « plus » et « moins » pouvait approximer le gradient d'une fonction d'erreur, même dans des architectures récurrentes.
L'algorithme suppose un réseau avec des connexions symétriques, une condition qui simplifie les mathématiques mais n'est pas strictement requise pour toutes les variantes. En pratique, GeneRec peut être implémenté dans des réseaux feedforward en traitant la couche de sortie comme la cible fixée pendant la phase « plus ». La phase « moins » correspond alors à une passe avant sans fixation externe, permettant au réseau de s'installer dans son état naturel.
Relation avec la rétropropagation
GeneRec est souvent décrit comme une approximation « locale » de la rétropropagation. Alors que la rétropropagation calcule des gradients exacts en utilisant la règle de la chaîne, GeneRec repose sur des différences temporelles dans l'activité. Sous certaines conditions, comme lorsque le réseau fonctionne près de l'équilibre et que le taux d'apprentissage est faible, les mises à jour de GeneRec convergent vers la même direction que le gradient de la rétropropagation. Cette équivalence a été formellement analysée dans des travaux ultérieurs, notamment par Xie et Seung en 2003, qui ont montré que GeneRec peut être considéré comme un cas particulier de l'algorithme plus général d'Almeida-Pineda pour les réseaux récurrents.
Cependant, GeneRec diffère dans son implémentation. Il ne nécessite pas de passes avant et arrière séparées avec des signaux d'erreur distincts. Au lieu de cela, il utilise les mêmes dynamiques de réseau pour les deux phases, ce qui le rend plus adapté aux implémentations matérielles qui imitent les systèmes biologiques. Cela a conduit à un regain d'intérêt pour GeneRec en tant que candidat pour l'apprentissage profond économe en énergie sur des puces neuromorphiques.
Plausibilité biologique
Une motivation majeure pour GeneRec était de répondre au « problème d'attribution du crédit » en neurosciences. La rétropropagation nécessite une propagation précise des erreurs, ce qui est difficile à concilier avec les circuits neuronaux connus. GeneRec offre un mécanisme plus plausible : il repose sur la plasticité hebbienne, modulée par des signaux globaux qui indiquent la phase (plus ou moins). Cela correspond aux résultats expérimentaux sur la plasticité dépendante du timing des potentiels d'action et au rôle des neuromodulateurs dans l'apprentissage.
Les chercheurs ont noté que la dynamique en deux phases de GeneRec ressemble à l'algorithme « wake-sleep » utilisé dans certains modèles d'apprentissage non supervisé. Dans la phase d'éveil, le réseau traite les entrées sensorielles ; dans la phase de sommeil, il consolide les mémoires. Cette analogie a inspiré d'autres études sur la manière dont les zones corticales pourraient implémenter l'apprentissage contrastif à travers des interactions récurrentes.
Applications et impact
Bien que GeneRec n'ait pas été largement adopté dans l'apprentissage automatique mainstream, il a influencé les recherches ultérieures sur les algorithmes inspirés de la biologie. Il est un précurseur des méthodes modernes d'apprentissage contrastif et a été cité dans des travaux sur les modèles basés sur l'énergie et le codage prédictif. Dans les années 2010 et 2020, l'intérêt a été ravivé alors que les chercheurs cherchaient des alternatives à la rétropropagation pour entraîner des modèles à grande échelle sur du matériel spécialisé.
GeneRec a été exploré dans le contexte des systèmes d'intelligence artificielle qui visent à imiter le traitement cortical. Par exemple, il a été utilisé dans des simulations du développement du cortex visuel et dans des modèles d'apprentissage moteur. Sa règle de mise à jour locale le rend attrayant pour des implémentations distribuées, comme celles sur les IPU de Graphcore ou d'autres architectures parallèles, bien qu'aucun déploiement commercial majeur n'ait eu lieu.
Limites et extensions
La principale limitation de GeneRec est son exigence de poids symétriques et un contrôle minutieux de la dynamique du réseau. En pratique, les phases « plus » et « moins » peuvent être coûteuses en calcul, car le réseau doit s'installer à l'équilibre dans chaque phase. Cela le rend plus lent que la rétropropagation standard pour des problèmes à grande échelle. De plus, l'algorithme peut être sensible au bruit et aux choix de paramètres, ce qui a entravé son adoption dans des benchmarks compétitifs.
Les extensions de GeneRec incluent des variantes qui assouplissent l'hypothèse de symétrie, comme l'approche de « rétroalignement aléatoire », et des méthodes hybrides qui combinent des mises à jour hebbiennes locales avec des corrections globales occasionnelles. Des travaux théoriques récents ont également relié GeneRec à la propagation à l'équilibre, une méthode proposée par Scellier et Bengio en 2017, qui utilise une règle contrastive en deux phases similaire. Ces connexions suggèrent que GeneRec reste un cadre pertinent pour comprendre l'apprentissage dans les systèmes biologiques et artificiels.
Héritage
GeneRec constitue une étape marquante dans la quête d'algorithmes d'apprentissage biologiquement plausibles. Son accent sur le calcul local et le contraste temporel a inspiré des générations de chercheurs en calcul neuronal et en sciences cognitives. Bien que la rétropropagation reste dominante en pratique, les principes de GeneRec continuent d'informer les efforts pour construire des systèmes d'IA plus efficaces et plus proches du cerveau. Dans les années 2020, il est principalement étudié dans des contextes académiques, mais ses idées persistent dans la conception de matériel neuromorphique et dans les analyses théoriques de l'apprentissage.