Un réseau antagoniste génératif (GAN) est une classe de cadres d'apprentissage automatique et une approche prominente pour l'IA générative. Le concept a été initialement développé par Ian Goodfellow et ses collègues en juin 2014. Dans un GAN, deux réseaux neuronaux s'affrontent dans un jeu à somme nulle, où le gain d'un agent correspond à la perte de l'autre. Étant donné un ensemble d'entraînement, la technique apprend à générer de nouvelles données avec les mêmes statistiques que cet ensemble. Par exemple, un GAN entraîné sur des photographies peut générer de nouvelles photographies qui semblent au moins superficiellement authentiques aux observateurs humains. Bien qu'initialement proposé comme un modèle génératif pour l'apprentissage non supervisé, les GAN se sont également révélés utiles pour l'apprentissage semi-supervisé, l'apprentissage entièrement supervisé et l'apprentissage par renforcement.
L'idée centrale d'un GAN repose sur un entraînement indirect via un discriminateur, un autre réseau neuronal qui évalue le degré de réalisme d'une entrée et qui est lui-même mis à jour dynamiquement. Le générateur n'est pas entraîné à minimiser la distance par rapport à une image spécifique, mais plutôt à tromper le discriminateur, ce qui permet au modèle d'apprendre de manière non supervisée. Les GAN sont similaires au mimétisme en biologie évolutive, avec une course aux armements évolutive entre les deux réseaux.
Définition
Le GAN original est défini comme un jeu entre deux joueurs : le générateur et le discriminateur. La stratégie du générateur est l'ensemble de toutes les mesures de probabilité sur un espace donné, tandis que la stratégie du discriminateur est l'ensemble des noyaux de Markov qui mappent les entrées vers des probabilités. La fonction objectif est un jeu à somme nulle : le générateur vise à la minimiser, et le discriminateur vise à la maximiser. La tâche du générateur est de faire correspondre sa distribution de sortie aussi étroitement que possible à la distribution de référence, tandis que la tâche du discriminateur est de produire une valeur proche de 1 pour les données réelles et proche de 0 pour les données générées.
En pratique, le réseau génératif génère des candidats tandis que le réseau discriminatif les évalue. Cela crée un concours basé sur les distributions de données. Le générateur apprend à mapper un espace latent vers la distribution de données réelles, visant à produire des candidats que le discriminateur ne peut pas distinguer des données réelles. L'objectif du discriminateur est d'identifier correctement ces candidats, mais à mesure que le générateur s'améliore, la tâche du discriminateur devient plus difficile, ce qui augmente son taux d'erreur.
Un ensemble de données connu sert d'entraînement initial pour le discriminateur. L'entraînement consiste à présenter des échantillons de l'ensemble de données jusqu'à ce que le discriminateur atteigne une précision acceptable. Le générateur est entraîné en fonction de sa capacité à tromper le discriminateur. Typiquement, le générateur est initialisé avec des entrées aléatoires échantillonnées à partir d'un espace latent prédéfini, tel qu'une distribution normale multivariée. Ensuite, les candidats synthétisés par le générateur sont évalués par le discriminateur. Des procédures de rétropropagation indépendantes sont appliquées aux deux réseaux afin que le générateur produise de meilleurs échantillons, tandis que le discriminateur devient plus habile à signaler les échantillons synthétiques. Pour la génération d'images, le générateur est généralement un réseau neuronal déconvolutif, et le discriminateur est un réseau neuronal convolutif.
Relation avec d'autres méthodes statistiques d'apprentissage automatique
Les GAN sont des modèles génératifs implicites, ce qui signifie qu'ils ne modélisent pas explicitement la fonction de vraisemblance ni ne fournissent un moyen de trouver la variable latente correspondant à un échantillon donné, contrairement à des alternatives telles que les modèles génératifs basés sur les flux. Par rapport aux réseaux de croyances entièrement visibles tels que WaveNet et PixelRNN, et aux modèles autorégressifs en général, les GAN peuvent générer un échantillon complet en une seule passe, plutôt qu'en plusieurs passes à travers le réseau. Par rapport aux machines de Boltzmann et à l'ICA linéaire, il n'y a aucune restriction sur le type de fonction utilisée par le réseau. Étant donné que les réseaux neuronaux sont des approximateurs universels, les GAN sont asymptotiquement cohérents. En 2026, les autoencodeurs variationnels ont également été prouvés comme étant des approximateurs universels, mais les GAN restent distincts dans leur paradigme d'entraînement antagoniste.
Dynamique d'entraînement et défis
L'entraînement des GAN implique un équilibre délicat. Le générateur et le discriminateur sont entraînés en alternance, ce qui conduit souvent à des problèmes tels que l'effondrement des modes, où le générateur produit une variété limitée de sorties, ou la non-convergence, où les deux réseaux oscillent sans atteindre un équilibre. Diverses techniques ont été développées pour stabiliser l'entraînement, notamment des fonctions objectif modifiées, des changements architecturaux et des méthodes de régularisation. La nature antagoniste des GAN les rend sensibles aux hyperparamètres, et l'entraînement nécessite un réglage minutieux.
Applications
Les GAN ont été largement appliqués dans la génération d'images, le transfert de style, l'augmentation de données et la super-résolution. Ils sont également utilisés pour générer des données synthétiques réalistes afin d'entraîner d'autres modèles, en imagerie médicale, et dans des domaines créatifs tels que la génération d'art et de musique. Les GAN ont été employés dans la recherche sur l'apprentissage profond, et leurs principes ont influencé d'autres domaines de l'IA générative.
Impact et orientations futures
L'introduction des GAN a eu un impact profond sur l'apprentissage automatique et l'intelligence artificielle. Ils ont inspiré de nombreuses variantes et améliorations, telles que les GAN conditionnels, les GAN cohérents par cycle et les GAN progressifs. La recherche continue de relever des défis tels que la stabilité de l'entraînement et les métriques d'évaluation. Les GAN restent un outil fondamental dans la boîte à outils de l'IA générative, aux côtés d'autres modèles comme les grands modèles de langage et les transformeurs, bien qu'ils se distinguent par leur cadre antagoniste.