La rétropropagation est l'algorithme utilisé pour calculer comment la perte d'un réseau de neurones varie par rapport à chacun de ses poids, en appliquant la règle de dérivation en chaîne en sens inverse à travers les couches du réseau. C'est le mécanisme qui rend l'entraînement des réseaux profonds avec la descente de gradient computationnellement faisable, car il calcule tous les gradients nécessaires à une mise à jour en à peu près le même temps qu'une seule passe avant, plutôt que d'exiger un calcul coûteux séparé pour chaque poids individuel.
Historique
La technique mathématique derrière la rétropropagation, la différentiation automatique en mode inverse, a été décrite sous diverses formes à partir des années 1960, et Paul Werbos l'a appliquée explicitement aux réseaux de neurones dans sa thèse de doctorat à Harvard en 1974, bien que ce travail soit passé largement inaperçu à l'époque. La rétropropagation est entrée dans la recherche dominante en IA après un article de 1986 dans Nature par David Rumelhart, Geoffrey Hinton et Ronald Williams, intitulé « Learning representations by back-propagating errors », qui a démontré que la méthode pouvait entraîner des réseaux multicouches à découvrir des représentations internes utiles, répondant directement aux limites que Marvin Minsky et Seymour Papert avaient identifiées dans les perceptrons monocouches deux décennies plus tôt. L'article de 1986 est largement crédité d'avoir contribué à mettre fin au deuxième hiver de l'IA et de raviver l'intérêt pour les approches connexionnistes de l'IA à la fin des années 1980 et dans les années 1990.
Fonctionnement
La passe avant d'un réseau calcule une sortie et une valeur de fonction de perte à partir des entrées et des poids actuels. La rétropropagation travaille ensuite en arrière à partir de cette perte, en utilisant la règle de dérivation en chaîne pour calculer, couche par couche, dans quelle mesure chaque poids a contribué à l'erreur, produisant un gradient pour chaque paramètre du réseau en une seule passe arrière. Ces gradients sont ensuite utilisés par un optimiseur, généralement une variante de la descente de gradient, pour ajuster chaque poids dans la direction qui réduit la perte. L'efficacité de ce calcul rétrograde, formellement une instance de la différentiation automatique en mode inverse, est ce qui rend pratique l'entraînement de réseaux avec des milliards de paramètres ; une approche numérique naïve recalculant chaque gradient indépendamment serait computationnellement intraitable à cette échelle.
Adoption et limites
Malgré sa popularisation en 1986, la rétropropagation n'a pas immédiatement dominé : à travers les années 1990 et 2000, les réseaux profonds entraînés avec la rétropropagation souffraient de gradients qui s'évanouissent ou explosent dans les réseaux à nombreuses couches, ce qui limitait la profondeur pratique et contribuait à une préférence pour des modèles plus superficiels et des méthodes alternatives comme les machines à vecteurs de support. Des correctifs architecturaux, y compris les mécanismes de portes dans les réseaux LSTM, une initialisation soignée des poids, puis les connexions résiduelles et les couches de normalisation, ont progressivement résolu ces problèmes et permis les réseaux très profonds, y compris les réseaux de neurones convolutifs et finalement les transformeurs, qui définissent le apprentissage profond moderne. La rétropropagation elle-même a également suscité des critiques scientifiques, notamment de la part de Geoffrey Hinton dans les années suivantes, pour son invraisemblance biologique, car le cerveau ne dispose d'aucun mécanisme connu pour les signaux d'erreur rétrogrades précis et symétriques que l'algorithme exige, motivant des recherches continues sur des règles d'apprentissage alternatives plus plausibles biologiquement qui, jusqu'à présent, n'ont pas égalé ses performances pratiques.
Importance
La rétropropagation reste la méthode d'entraînement quasi universelle pour les réseaux de neurones dans tous les domaines, de la vision par ordinateur au traitement du langage naturel, et chaque grand framework d'apprentissage profond, y compris PyTorch et TensorFlow, est construit autour de moteurs de différentiation automatique qui l'implémentent à grande échelle.