Un réseau antagoniste génératif (GAN) est une classe de cadres d'apprentissage automatique et un cadre important pour aborder l'IA générative. Le concept a été initialement développé par Ian Goodfellow et ses collègues en juin 2014. Dans un GAN, deux réseaux neuronaux se font concurrence sous la forme d'un jeu à somme nulle, où le gain d'un agent est la perte d'un autre agent.
Étant donné un ensemble d'entraînement, cette technique apprend à générer de nouvelles données avec les mêmes statistiques que l'ensemble d'entraînement. Par exemple, un GAN entraîné sur des photographies peut générer de nouvelles photographies qui semblent au moins superficiellement authentiques aux observateurs humains, avec de nombreuses caractéristiques réalistes. Bien qu'initialement proposé comme une forme de modèle génératif pour l'apprentissage non supervisé, les GAN se sont également révélés utiles pour l'apprentissage semi-supervisé, l'apprentissage entièrement supervisé et l'apprentissage par renforcement.
L'idée centrale d'un GAN repose sur l'entraînement « indirect » via le discriminateur, un autre réseau neuronal qui peut dire à quel point l'entrée semble « réaliste », et qui est lui-même également mis à jour dynamiquement. Cela signifie que le générateur n'est pas entraîné à minimiser la distance à une image spécifique, mais plutôt à tromper le discriminateur. Cela permet au modèle d'apprendre de manière non supervisée. Les GAN sont similaires au mimétisme en biologie évolutive, avec une course aux armements évolutive entre les deux réseaux.
Architecture et entraînement
Un GAN se compose de deux composants principaux : un générateur et un discriminateur. Le générateur est un réseau neuronal qui prend un bruit aléatoire d'un espace latent (souvent une distribution normale multivariée) et le mappe à un échantillon de données, comme une image. Le discriminateur est un autre réseau neuronal qui reçoit à la fois des échantillons réels de l'ensemble de données d'entraînement et des échantillons synthétiques du générateur, et produit une probabilité qu'une entrée donnée soit réelle plutôt que générée.
L'entraînement se déroule comme un jeu itératif. Le discriminateur est d'abord entraîné sur un ensemble de données connu pour distinguer le réel du faux avec une précision acceptable. Ensuite, le générateur est entraîné en fonction de sa réussite à tromper le discriminateur. Des procédures de rétropropagation indépendantes sont appliquées aux deux réseaux : le générateur ajuste ses poids pour produire des échantillons plus convaincants, tandis que le discriminateur améliore sa capacité à signaler les entrées synthétiques. Lorsqu'ils sont utilisés pour la génération d'images, le générateur est généralement un réseau neuronal déconvolutionnel, et le discriminateur est un réseau neuronal convolutionnel.
La fonction objectif du jeu GAN original est définie sur la distribution de référence (données réelles) et la distribution du générateur. Le discriminateur vise à maximiser la log-probabilité de classer correctement les entrées réelles et fausses, tandis que le générateur vise à minimiser la même objectif, en essayant efficacement de faire en sorte que le discriminateur produise 1 pour les échantillons générés. Cette formulation à somme nulle pousse les deux réseaux à s'améliorer jusqu'à ce que la distribution du générateur corresponde étroitement à la distribution de référence.
Formulation mathématique
Formellement, le jeu GAN est défini sur un espace de probabilité (Ω, μ_ref). L'ensemble des stratégies du générateur est l'ensemble de toutes les mesures de probabilité μ_G sur Ω, tandis que l'ensemble des stratégies du discriminateur consiste en des noyaux de Markov de Ω vers des mesures de probabilité sur [0,1]. La fonction objectif est :
L(μ_G, μ_D) = E_{x~μ_ref, y~μ_D(x)}[ln y] + E_{x~μ_G, y~μ_D(x)}[ln(1-y)]
Le générateur vise à minimiser cette objectif, en s'approchant de μ_G ≈ μ_ref, tandis que le discriminateur vise à la maximiser, en produisant des valeurs proches de 1 pour les données réelles et proches de 0 pour les données générées. Ce jeu minimax a un équilibre théorique où le générateur reproduit parfaitement la distribution de référence et le discriminateur ne peut pas faire mieux qu'une supposition aléatoire.
Relation avec d'autres modèles génératifs
Les GAN sont des modèles génératifs implicites, ce qui signifie qu'ils ne modélisent pas explicitement la fonction de vraisemblance ni ne fournissent un moyen de trouver la variable latente correspondant à un échantillon donné, contrairement à des alternatives comme les modèles génératifs basés sur les flux. Par rapport aux réseaux de croyance entièrement visibles comme WaveNet et PixelRNN, et aux modèles autorégressifs en général, les GAN peuvent générer un échantillon complet en une seule passe, plutôt que de nécessiter plusieurs passes à travers le réseau.
Contrairement aux machines de Boltzmann et à l'ICA linéaire, les GAN n'imposent aucune restriction sur le type de fonction utilisée par le réseau. Étant donné que les réseaux neuronaux sont des approximateurs universels, les GAN sont asymptotiquement cohérents. En 2026, les autoencodeurs variationnels ont également été prouvés comme étant des approximateurs universels, mais les GAN restent distincts dans leur paradigme d'entraînement antagoniste. Cette approche a rendu les GAN particulièrement efficaces pour des tâches comme la synthèse d'images, le transfert de style et l'augmentation de données, où la génération d'échantillons réalistes de haute dimension est cruciale.
Applications et impact
Les GAN ont conduit à des avancées significatives dans les applications de apprentissage profond et de apprentissage automatique. Ils ont été largement utilisés pour générer des images réalistes, y compris des visages, des paysages et des images médicales. Dans la recherche en intelligence artificielle, les GAN ont permis des progrès dans l'apprentissage semi-supervisé, où les données étiquetées sont rares, et dans l'apprentissage par renforcement, où ils peuvent modéliser des environnements ou générer des expériences d'entraînement.
Le concept d'entraînement antagoniste a également influencé d'autres domaines, comme les transformeurs et les grands modèles de langage, bien que ces architectures utilisent des objectifs d'entraînement différents. Les GAN restent un cadre fondamental dans la modélisation générative, avec des recherches en cours abordant des défis comme l'instabilité de l'entraînement et l'effondrement modal, où le générateur produit une variété limitée. Leur analogie de course aux armements évolutive continue d'inspirer de nouvelles méthodes dans le monde académique et industriel.
Limites et défis
Malgré leur puissance, les GAN font face à plusieurs difficultés connues. L'entraînement peut être instable, car les deux réseaux doivent être maintenus en équilibre ; si le discriminateur devient trop fort, le générateur reçoit des gradients qui disparaissent, et s'il devient trop faible, le générateur peut ne pas apprendre efficacement. L'effondrement modal est un autre problème courant, où le générateur ne produit qu'un petit sous-ensemble des sorties possibles, ne parvenant pas à capturer la diversité complète des données d'entraînement.
Évaluer la performance des GAN est également non trivial, car il n'y a pas de vraisemblance explicite à mesurer. Les chercheurs utilisent souvent des métriques comme le score d'inception ou la distance de Fréchet sur l'inception, mais celles-ci ont des limites. Depuis le milieu des années 2020, de nouveaux modèles génératifs, y compris les modèles de diffusion, ont gagné en popularité pour certaines tâches, mais les GAN restent un domaine de recherche actif, en particulier pour les applications en temps réel et les contextes où la génération en une seule passe est avantageuse.