Un réseau neuronal cellulaire (CNN) est un type de réseau neuronal artificiel conçu pour un calcul parallèle et localement connecté. Contrairement aux réseaux neuronaux conventionnels avec des connexions globales, un CNN est constitué d'une grille régulière de cellules (neurones), où chaque cellule n'interagit qu'avec ses voisins immédiats. Cette architecture imite la structure des rétines biologiques et des automates cellulaires, permettant un traitement en temps réel efficace de signaux bidimensionnels tels que les images. Le concept a été introduit par Leon O. Chua et Lin Yang en 1988 à l'Université de Californie à Berkeley, et a depuis trouvé des applications dans le traitement d'images, la reconnaissance de formes et la simulation de systèmes dynamiques.
La caractéristique définissant un CNN est sa connectivité locale : chaque cellule reçoit des entrées d'un petit voisinage (typiquement une région 3x3 ou 5x5) et met à jour son état en fonction d'un ensemble d'équations différentielles. Cette localité réduit le nombre de connexions par rapport aux réseaux entièrement connectés, permettant des implémentations matérielles avec un parallélisme élevé. Les CNN peuvent fonctionner en mode continu (analogique) et discret (numérique), et ils supportent une variété de modèles qui définissent la dynamique du réseau. Ces modèles peuvent être programmés pour effectuer des opérations telles que la détection de contours, le filtrage du bruit et l'extraction de caractéristiques.
Historique et développement
Le réseau neuronal cellulaire a été proposé par Chua et Yang dans leur article de 1988 « Cellular Neural Networks: Theory and Applications », publié dans l'IEEE Transactions on Circuits and Systems. La motivation initiale était de créer un processeur en temps réel et à faible consommation pour le traitement d'images, en exploitant la nature analogique des circuits électroniques. Les premières implémentations utilisaient des amplificateurs opérationnels et des résistances, mais les versions ultérieures ont intégré la logique numérique et les réseaux de portes programmables (FPGA).
Dans les années 1990, les chercheurs ont étendu le modèle CNN original pour inclure des modèles non linéaires, des configurations multicouches et des algorithmes d'apprentissage. L'introduction de la machine universelle CNN (CNN-UM) par Tamás Roska et Chua en 1993 a fourni un cadre programmable, permettant l'émulation logicielle et le prototypage matériel. Cela a conduit au développement de la puce ACE16k par l'Académie hongroise des sciences, capable de traiter des images 128x128 à des milliers d'images par seconde. Malgré ces avancées, l'essor du apprentissage profond dans les années 2010 a déplacé la recherche vers les réseaux neuronaux convolutifs (CNN), qui partagent le nom mais diffèrent fondamentalement dans l'architecture et les méthodes d'entraînement.
Architecture et fonctionnement
Un réseau neuronal cellulaire est défini par une grille de cellules M x N, où chaque cellule possède une variable d'état, une entrée et une sortie. La dynamique d'une cellule est régie par une équation différentielle du premier ordre qui intègre son propre état, les entrées et sorties des cellules voisines, et un terme de biais. Les poids d'interaction sont spécifiés par deux matrices : le modèle A (rétroaction) et le modèle B (anticipation). Ces modèles sont typiquement petits, comme 3x3, et sont identiques pour toutes les cellules, donnant au réseau une propriété d'invariance par translation.
La sortie de chaque cellule est une fonction non linéaire de son état, souvent une sigmoïde linéaire par morceaux. Cela permet au réseau de présenter des comportements complexes, y compris des points fixes stables, des oscillations et du chaos, selon les valeurs des modèles. En pratique, les CNN sont souvent utilisés comme filtre spatial : en choisissant des modèles appropriés, le réseau peut effectuer des opérations comme la détection de contours de Sobel, le lissage gaussien ou des transformations morphologiques. La nature parallèle du réseau signifie que toutes les cellules se mettent à jour simultanément, ce qui le rend adapté à l'accélération matérielle.
Applications
Les réseaux neuronaux cellulaires ont été principalement appliqués au traitement d'images et de vidéos. Ils sont utilisés pour la détection de contours en temps réel, la segmentation d'images et la détection de mouvement dans les systèmes de surveillance. En imagerie médicale, les CNN ont été employés pour améliorer les images radiographiques et IRM, ainsi que pour détecter des anomalies dans les scans rétiniens. L'implémentation analogique des CNN offre une faible consommation d'énergie, ce qui est avantageux pour les appareils portables et les systèmes embarqués.
Au-delà du traitement d'images, les CNN ont été utilisés pour résoudre des équations aux dérivées partielles, modéliser des systèmes de réaction-diffusion et simuler des réseaux neuronaux biologiques. Ils ont également été explorés pour la mémoire associative et les tâches de classification de formes. Cependant, avec l'avènement du apprentissage automatique et de l'IA générative, la plupart des applications pratiques reposent désormais sur des réseaux neuronaux convolutifs (CNN) implémentés sur GPU, qui offrent une plus grande flexibilité et évolutivité. Depuis les années 2020, les réseaux neuronaux cellulaires restent un sujet de niche, étudié principalement dans les milieux académiques et la recherche matérielle spécialisée.
Comparaison avec les réseaux neuronaux convolutifs
Malgré l'acronyme similaire, les réseaux neuronaux cellulaires et les réseaux neuronaux convolutifs sont distincts. Un réseau neuronal convolutif est une architecture feedforward avec des filtres appris, entraînée par rétropropagation sur de grands ensembles de données. Il utilise des poids partagés à travers les emplacements spatiaux et plusieurs couches pour extraire des caractéristiques hiérarchiques. En revanche, un réseau neuronal cellulaire est un système récurrent, localement connecté, avec des modèles fixes ou réglés manuellement, souvent implémenté en matériel analogique. Le premier excelle dans des tâches comme la reconnaissance d'images et le traitement du langage naturel, tandis que le second est adapté au traitement de signaux en temps réel et à faible consommation.
Le terme « cellulaire » dans les deux noms fait référence à l'arrangement en grille des unités de traitement, mais les principes opérationnels diffèrent. Les réseaux neuronaux cellulaires mettent l'accent sur la dynamique en temps continu et les interactions locales, tandis que les réseaux neuronaux convolutifs reposent sur des convolutions discrètes et des activations non linéaires. Cette distinction est importante pour les chercheurs et ingénieurs qui choisissent le modèle approprié pour une application donnée.
Implémentations matérielles
L'un des principaux avantages des réseaux neuronaux cellulaires est leur adaptabilité à la réalisation matérielle. Les implémentations VLSI analogiques peuvent atteindre un débit extrêmement élevé et une faible consommation d'énergie, car chaque cellule est un circuit simple. La première puce CNN dédiée, la machine universelle CNN, a été développée dans les années 1990 et a démontré un traitement vidéo en temps réel. Plus tard, des implémentations numériques utilisant des FPGA et des circuits intégrés spécifiques à une application (ASIC) ont offert plus de flexibilité et de précision.
Des entreprises et institutions de recherche, y compris Nokia Bell Labs et diverses universités, ont exploré le matériel CNN pour l'informatique de périphérie. Cependant, le succès commercial du matériel CNN a été limité par rapport aux accélérateurs Graphcore et Groq conçus pour l'apprentissage profond. La nature de niche des réseaux neuronaux cellulaires signifie que la plupart du développement matériel moderne se concentre sur les modèles basés sur Transformer (architecture) et les grands modèles de langage, qui dominent le paysage actuel de l'IA.
Voir aussi
- Réseau neuronal artificiel
- Apprentissage profond
- Apprentissage automatique
- Traitement d'images
Références
- Chua, L. O., & Yang, L. (1988). Cellular Neural Networks: Theory and Applications. IEEE Transactions on Circuits and Systems.
- Roska, T., & Chua, L. O. (1993). The CNN Universal Machine: An Analogic Array Computer. IEEE Transactions on Circuits and Systems II.