Détails du VAE (Avancé)

Un autoencodeur variationnel (VAE) est une architecture de réseau de neurones artificiels introduite par Diederik P. Kingma et Max Welling en 2013. Il appartient aux familles des modèles graphiques probabilistes et des méthodes bayésiennes variationnelles. Les VAE sont des modèles génératifs qui apprennent à encoder des données d'entrée dans un espace latent probabiliste et à décoder des échantillons de cet espace vers le domaine de données d'origine, permettant des tâches telles que la génération de données, le débruitage et l'apprentissage de représentations.

L'architecture se compose de deux réseaux de neurones : un encodeur et un décodeur. L'encodeur mappe chaque point de données (comme une image) d'un grand ensemble de données complexe vers une distribution dans l'espace latent, plutôt que vers un point unique. Cette distribution est typiquement une gaussienne multivariée, paramétrée par une moyenne et une variance. Le décodeur remplit la fonction opposée, mappant de l'espace latent vers l'espace d'entrée, toujours selon une distribution, bien qu'en pratique le bruit soit rarement ajouté lors du décodage. En mappant vers une distribution plutôt qu'un point unique, le réseau évite le surapprentissage des données d'entraînement. Les deux réseaux sont généralement entraînés ensemble à l'aide de l'astuce de reparamétrisation, bien que la variance du modèle de bruit puisse être apprise séparément.

Aperçu de l'architecture et du fonctionnement

Un autoencodeur variationnel est un modèle génératif avec une distribution a priori et une distribution de bruit. Les modèles traditionnels de ce type sont entraînés à l'aide du méta-algorithme d'espérance-maximisation, comme l'ACP probabiliste ou le codage parcimonieux. Ces schémas optimisent une borne inférieure de la vraisemblance des données, qui est généralement incalculable sur le plan computationnel, et nécessitent la découverte de distributions q, ou postérieurs variationnels. Ces distributions q sont normalement paramétrées pour chaque point de données individuel dans un processus d'optimisation séparé.

Les VAE utilisent plutôt un réseau de neurones comme approche amortie pour optimiser conjointement sur les points de données. Les mêmes paramètres sont réutilisés pour plusieurs points de données, ce qui entraîne des économies de mémoire massives. Le premier réseau de neurones prend les points de données comme entrée et produit les paramètres de la distribution variationnelle. Comme il mappe d'un espace d'entrée connu vers l'espace latent de faible dimension, il est appelé l'encodeur. Le décodeur est le second réseau de neurones, mappant de l'espace latent vers l'espace d'entrée, par exemple comme les moyennes de la distribution de bruit. Il est possible d'utiliser un autre réseau de neurones pour mapper vers la variance, mais cela peut être omis pour simplifier, la variance étant optimisée par descente de gradient.

Pour optimiser le modèle, deux termes sont nécessaires : l'erreur de reconstruction et la divergence de Kullback-Leibler (KL-D). Les deux sont dérivés de l'expression d'énergie libre du modèle probabiliste et diffèrent selon la distribution de bruit et le a priori supposé des données. Par exemple, une tâche VAE standard telle que IMAGENET suppose typiquement un bruit gaussien, tandis que des tâches telles que MNIST binarisé nécessitent un bruit de Bernoulli. Le terme KL-D maximise la masse de probabilité de la distribution q qui chevauche la distribution p, ce qui peut entraîner un comportement de recherche de modes. Le terme de reconstruction est le reste de l'expression d'énergie libre et nécessite une approximation par échantillonnage pour calculer sa valeur d'espérance. Des approches plus récentes remplacent la KL-D par diverses distances statistiques.

Formulation

Du point de vue de la modélisation probabiliste, l'objectif est de maximiser la vraisemblance des données x sous une distribution de probabilité paramétrée choisie p_θ(x) = p(x|θ). Cette distribution est généralement choisie comme une gaussienne N(x|μ, σ), paramétrée par μ et σ, qui est facile à manipuler en tant que membre de la famille exponentielle. Les distributions simples sont faciles à maximiser, mais les distributions avec un a priori sur les latents z entraînent des intégrales incalculables. La vraisemblance p_θ(x) est trouvée en marginalisant sur z :

p_θ(x) = ∫ p_θ(x, z) dz,

où p_θ(x, z) est la distribution conjointe des données observables x et de l'encodage latent z. Par la règle de la chaîne, cela devient :

p_θ(x) = ∫ p_θ(x|z) p_θ(z) dz.

Cette intégrale est généralement incalculable, donc l'inférence variationnelle est utilisée. Le réseau encodeur approxime le postérieur vrai p_θ(z|x) avec une distribution variationnelle q_φ(z|x), typiquement une gaussienne. Le décodeur modélise p_θ(x|z). L'entraînement optimise la borne inférieure de l'évidence (ELBO), qui équilibre la précision de reconstruction et la régularisation vers le a priori.

L'astuce de reparamétrisation

L'astuce de reparamétrisation est une technique clé pour entraîner les VAE avec rétropropagation. L'échantillonnage depuis la distribution de sortie de l'encodeur q_φ(z|x) n'est pas différentiable, ce qui empêche le flux de gradient. L'astuce exprime la variable latente comme z = μ + σ ⊙ ε, où ε est échantillonné depuis une distribution normale standard N(0, I). Cela sépare la partie stochastique (ε) des paramètres déterministes (μ et σ), permettant aux gradients de circuler à travers le réseau. L'astuce a été introduite avec le VAE en 2013 et est devenue standard dans l'apprentissage profond variationnel.

ELBO et fonction de perte

L'objectif d'entraînement est la borne inférieure de l'évidence (ELBO), dérivée de l'expression d'énergie libre. L'ELBO se compose de deux termes : le terme de reconstruction et le terme de divergence KL. Le terme de reconstruction, E_{q_φ(z|x)}[log p_θ(x|z)], mesure à quel point le décodeur reconstruit l'entrée à partir de l'échantillon latent. Le terme KL, D_KL(q_φ(z|x) || p(z)), régularise l'encodeur en pénalisant les écarts par rapport au a priori p(z), typiquement une gaussienne standard. La perte totale est l'ELBO négatif, minimisée par descente de gradient. Le terme KL encourage l'espace latent à être lisse et continu, tandis que le terme de reconstruction assure la fidélité aux données.

Applications et extensions

Bien qu'initialement conçus pour l'apprentissage non supervisé, les VAE se sont révélés efficaces pour l'apprentissage semi-supervisé et supervisé. Ils sont utilisés dans la génération d'images, la détection d'anomalies, la découverte de médicaments et l'apprentissage de représentations. Les variantes incluent les VAE conditionnels (CVAE), qui conditionnent sur des entrées supplémentaires, et les bêta-VAE, qui pondèrent le terme KL pour des représentations désentrelacées. Des travaux récents ont remplacé la KL-D par d'autres distances statistiques pour traiter l'effondrement de modes et améliorer la qualité des échantillons. Les VAE sont également fondamentaux dans IA générative aux côtés d'autres modèles comme les grands modèles de langage, bien qu'ils diffèrent en architecture et en application.

Relation avec d'autres modèles

Les VAE font partie du paysage plus large de l'apprentissage profond, liés aux architectures de réseaux de neurones telles que le réseau résiduel et le U-Net. Ils partagent des liens conceptuels avec les modèles encodeur-décodeur et les cadres séquence à séquence, bien que les VAE se concentrent sur les espaces latents probabilistes. Contrairement aux modèles basés sur transformers utilisés dans les systèmes d'intelligence artificielle comme la série GPT d'OpenAI, les VAE sont typiquement plus petits et utilisés pour des données continues. La recherche dans des institutions comme le MIT CSAIL et le Stanford AI Lab a fait progresser la théorie des VAE, tandis que des entreprises comme Google DeepMind et Amazon Web Services les ont appliqués dans des systèmes de production.

Limites et orientations futures

Les VAE produisent souvent des échantillons flous par rapport aux réseaux adverses génératifs (GAN), en raison de l'hypothèse de bruit gaussien et de la régularisation KL. L'effondrement de modes peut se produire lorsque le modèle se concentre sur quelques modes de la distribution des données. Les avancées récentes abordent ces problèmes grâce aux VAE hiérarchiques, aux flux normalisants et aux mesures de divergence alternatives. Au milieu des années 2020, les VAE restent un domaine de recherche actif, avec des travaux en cours en apprentissage automatique et en IA générative pour améliorer la qualité des échantillons et les applications.