Normalizing Flows sind eine Klasse von generativen Modellen im maschinellen Lernen, die eine Wahrscheinlichkeitsverteilung explizit modellieren, indem sie eine Sequenz invertierbarer Transformationen auf eine einfache Basisverteilung anwenden. Die Methode nutzt das Transformationsgesetz für Wahrscheinlichkeiten (Change-of-Variable-Gesetz), um eine einfache Verteilung wie eine Gauß-Verteilung in eine komplexe Zielverteilung zu überführen. Diese direkte Modellierung der Likelihood bietet Vorteile: Die negative Log-Likelihood kann als Verlustfunktion berechnet und minimiert werden, und neue Stichproben können erzeugt werden, indem man aus der Basisverteilung sampelt und die Flow-Transformation anwendet. Im Gegensatz dazu repräsentieren andere generative Modellierungsmethoden wie Variational Autoencoder (VAEs), Generative Adversarial Networks (GANs) und Diffusionsmodelle die Likelihood-Funktion nicht explizit.
Der Begriff „Normalizing Flow“ spiegelt zwei Aspekte wider: „Normalizing“ bezieht sich darauf, dass die Transformationen eine normalisierte Wahrscheinlichkeitsdichte (die zu eins integriert) erzeugen, und „Flow“ bezieht sich auf die sequentielle Komposition von Transformationen, die die Basisverteilung in die Zielverteilung „fließen“ lassen. Flow-basierte Modelle wurden in Bereichen wie Bildgenerierung, Dichteschätzung und Anomalieerkennung angewendet, und sie bilden die Grundlage für fortgeschrittenere Architekturen wie RealNVP und Glow.
Methode
Sei \( z_0 \) eine (möglicherweise multivariate) Zufallsvariable mit Verteilung \( p_0(z_0) \). Für \( i = 1, \dots, K \) sei \( z_i = f_i(z_{i-1}) \) eine Sequenz von Zufallsvariablen, die aus \( z_0 \) transformiert wurden. Die Funktionen \( f_1, \dots, f_K \) müssen invertierbar sein, das heißt, die inverse Funktion \( f_i^{-1} \) muss existieren. Das finale Ergebnis \( z_K \) modelliert die Zielverteilung.
Die Log-Likelihood von \( z_K \) ist gegeben durch:
\[ \log p_K(z_K) = \log p_0(z_0) - \sum_{i=1}^K \log \left| \det \frac{d f_i(z_{i-1})}{d z_{i-1}} \right| \]
Diese Formel ergibt sich aus der Change-of-Variable-Regel, die die Dichte um den absoluten Determinanten der Jacobi-Matrix jeder Transformation anpasst. Um die Log-Likelihood effizient zu berechnen, sollten die Funktionen \( f_1, \dots, f_K \) leicht invertierbar sein, und die Determinanten ihrer Jacobi-Matrizen sollten einfach zu berechnen sein. In der Praxis werden diese Funktionen mithilfe von tiefen neuronalen Netzen modelliert, die trainiert werden, um die negative Log-Likelihood von Datenstichproben aus der Zielverteilung zu minimieren. Die Architekturen sind so entworfen, dass nur der Vorwärtsdurchlauf des Netzwerks sowohl für die Inverse als auch für die Berechnung der Jacobi-Determinante erforderlich ist. Beispiele hierfür sind NICE, RealNVP und Glow.
Herleitung der Log-Likelihood
Betrachte \( z_1 \) und \( z_0 \). Beachte, dass \( z_0 = f_1^{-1}(z_1) \). Nach der Transformationsformel ist die Verteilung von \( z_1 \):
\[ p_1(z_1) = p_0(z_0) \left| \det \frac{d f_1^{-1}(z_1)}{d z_1} \right| \]
Unter Verwendung des Satzes über inverse Funktionen ist die Determinante der Jacobi-Matrix der Inversen der Kehrwert der Determinante der Jacobi-Matrix der Vorwärtstransformation, was zum obigen Log-Likelihood-Ausdruck führt. Diese Herleitung lässt sich durch Induktion auf mehrere Transformationen erweitern.
Architektonische Innovationen
Frühe Flow-basierte Modelle konzentrierten sich auf das Design von Transformationen mit handhabbaren Jacobi-Matrizen. NICE (Non-linear Independent Components Estimation), eingeführt von Dinh et al. im Jahr 2014, verwendete additive Kopplungsschichten, die die Eingabe partitionieren und einfache affine Transformationen anwenden, wodurch die Jacobi-Matrix dreieckig mit einer Determinante von eins wird. RealNVP (Real-valued Non-Volume Preserving) erweiterte dies um affine Kopplungsschichten, die Skalierungs- und Verschiebungsoperationen ermöglichen, was die Ausdruckskraft verbesserte, während die Invertierbarkeit erhalten blieb. Glow, eingeführt von Kingma und Dhariwal im Jahr 2018, fügte invertierbare 1x1-Faltungen und Actnorm-Schichten hinzu, was ein effizientes Training auf hochauflösenden Bildern ermöglichte.
Diese Architekturen bestehen oft aus mehreren Kopplungsschichten, jeweils mit einer Permutation oder Faltung, um die Dimensionen zu mischen. Die Invertierbarkeit ist durch Konstruktion garantiert, und die Jacobi-Determinante wird als Produkt der Diagonalenelemente der dreieckigen Jacobi-Matrix berechnet, was effizient ist.
Anwendungen und Vergleiche
Normalizing Flows werden für die Dichteschätzung verwendet, wo sie die Wahrscheinlichkeitsverteilung eines Datensatzes lernen, sowie für generatives Sampling, wo sie neue Datenpunkte erzeugen. Sie wurden auf Bildgenerierung, Audiosynthese und Konformationsgenerierung in der Molekülchemie angewendet. Im Gegensatz zu GANs, die für mangelnde Likelihood-Schätzung bekannt sind, liefern Flows exakte Log-Likelihoods, die für Modellvergleiche und Ausreißererkennung nützlich sind. Im Vergleich zu Diffusionsmodellen können Flows schneller sampeln, da sie nur einen einzigen Vorwärtsdurchlauf benötigen, während Diffusionsmodelle ein iteratives Denoising erfordern.
Allerdings können Flows rechnerisch aufwendig sein, da sie invertierbare Architekturen und Jacobi-Berechnungen benötigen. Sie können auch mehr Parameter erfordern, um komplexe Verteilungen im Vergleich zu anderen Methoden zu erfassen.
Training
Das Training eines Normalizing Flows beinhaltet die Minimierung der negativen Log-Likelihood der Trainingsdaten. Die Verlustfunktion ist:
\[ \mathcal{L} = -\frac{1}{N} \sum_{n=1}^N \log p_K(x_n) \]
wobei \( x_n \) Datenstichproben sind. Dies wird typischerweise mit stochastischem Gradientenabstieg durchgeführt. Die Invertierbarkeit der Transformationen stellt sicher, dass die Log-Likelihood wohldefiniert ist, und die Jacobi-Determinante wird als Teil des Vorwärtsdurchlaufs berechnet. Regularisierungstechniken wie Gewichtsabfall und Dropout können auf die Netzwerkparameter angewendet werden.
Verwandte Konzepte
Normalizing Flows sind Teil des breiteren Feldes der künstlichen Intelligenz und neuronalen Netze. Sie werden oft mit anderen generativen Modellen wie generativen adversariellen Netzwerken und Variational Autoencodern verglichen. Die Forschung in diesem Bereich wurde von Institutionen wie dem Stanford AI Lab und Berkeley AI Research sowie von Forschern wie Daphne Koller und Anima Anandkumar vorangetrieben. Die theoretischen Grundlagen stehen im Zusammenhang mit maschinellem Lernen und Deep Learning.