Une machine de Turing neuronale (NTM) est un modèle de réseau neuronal récurrent qui émule une machine de Turing. Elle a été introduite par Alex Graves et ses collègues en 2014. Les NTM combinent les capacités de correspondance de motifs flous des réseaux neuronaux avec la puissance algorithmique des ordinateurs programmables, leur permettant d'apprendre des algorithmes simples à partir d'exemples.
L'architecture se compose d'un contrôleur de réseau neuronal couplé à des ressources de mémoire externe. Le contrôleur interagit avec la mémoire via des mécanismes attentionnels, et l'ensemble du système est différentiable de bout en bout, permettant une optimisation par descente de gradient. Avec un contrôleur de mémoire à long terme et à court terme (LSTM), une NTM peut inférer des algorithmes tels que la copie, le tri et le rappel associatif à partir de simples exemples.
Architecture et fonctionnement
Le contrôleur de la NTM est généralement un réseau neuronal récurrent, tel qu'un LSTM ou un réseau feedforward. Il reçoit des entrées et produit des sorties tout en générant des opérations de lecture et d'écriture sur une matrice de mémoire externe. La mémoire est adressée en utilisant une attention basée sur le contenu et la localisation, ce qui permet au réseau de se concentrer sur des emplacements mémoire spécifiques. La nature différentiable de ces opérations permet l'entraînement par rétropropagation.
Contexte historique et impact
L'article de 2014 de Graves et al. a été publié à une époque où l'apprentissage profond progressait rapidement. Les NTM figuraient parmi les premiers modèles à intégrer explicitement une mémoire externe dans les réseaux neuronaux, influençant des architectures ultérieures comme le Transformer (architecture) et les grands modèles de langage. Le concept s'est inspiré de la machine de Turing et visait à combler l'écart entre les réseaux neuronaux et le calcul symbolique.
Implémentations et défis
Les auteurs originaux n'ont pas publié leur code source. La première implémentation open-source stable est apparue en 2018 lors de la 27e Conférence internationale sur les réseaux neuronaux artificiels, recevant un prix du meilleur article. D'autres implémentations open-source existent, mais, en 2018, elles n'étaient pas suffisamment stables pour une utilisation en production. Les développeurs ont signalé des problèmes tels que des gradients devenant NaN pendant l'entraînement pour des raisons inconnues, une convergence lente ou un manque de vitesse d'apprentissage rapportée.
Extensions et héritage
Les ordinateurs neuronaux différentiables sont une extension des NTM, intégrant des mécanismes attentionnels plus sophistiqués pour contrôler l'activité mémoire et améliorer les performances. Le concept de NTM a également influencé la recherche dans les réseaux neuronaux et l'apprentissage automatique plus largement, en particulier dans les domaines nécessitant des modèles à mémoire augmentée.