Ein generatives adversarielles Netzwerk (GAN) ist eine Klasse von Frameworks des maschinellen Lernens und ein prominentes Framework zur Annäherung an generative KI. Das Konzept wurde ursprünglich von Ian Goodfellow und seinen Kollegen im Juni 2014 entwickelt. In einem GAN konkurrieren zwei neuronale Netzwerke in Form eines Nullsummenspiels miteinander, bei dem der Gewinn des einen Agents der Verlust des anderen ist.
Gegeben eine Trainingsmenge lernt diese Technik, neue Daten mit derselben Statistik wie die Trainingsmenge zu erzeugen. Beispielsweise kann ein auf Fotografien trainiertes GAN neue Fotografien erzeugen, die für menschliche Betrachter zumindest oberflächlich authentisch wirken und viele realistische Merkmale aufweisen. Obwohl ursprünglich als eine Form generativer Modelle für unüberwachtes Lernen vorgeschlagen, haben sich GANs auch für halbüberwachtes Lernen, vollständig überwachtes Lernen und bestärkendes Lernen als nützlich erwiesen.
Die Kernidee eines GAN basiert auf dem "indirekten" Training durch den Diskriminator, ein weiteres neuronales Netzwerk, das erkennen kann, wie "realistisch" die Eingabe erscheint, und das selbst ebenfalls dynamisch aktualisiert wird. Das bedeutet, dass der Generator nicht darauf trainiert wird, die Distanz zu einem bestimmten Bild zu minimieren, sondern den Diskriminator zu täuschen. Dies ermöglicht es dem Modell, auf unüberwachte Weise zu lernen. GANs ähneln der Mimikry in der Evolutionsbiologie, mit einem evolutionären Wettrüsten zwischen beiden Netzwerken.
Architektur und Training
Ein GAN besteht aus zwei Hauptkomponenten: einem Generator und einem Diskriminator. Der Generator ist ein neuronales Netzwerk, das zufälliges Rauschen aus einem latenten Raum (häufig einer multivariaten Normalverteilung) aufnimmt und es auf eine Datenprobe, wie ein Bild, abbildet. Der Diskriminator ist ein weiteres neuronales Netzwerk, das sowohl echte Stichproben aus dem Trainingsdatensatz als auch synthetische Stichproben vom Generator erhält und eine Wahrscheinlichkeit ausgibt, dass eine gegebene Eingabe echt und nicht erzeugt ist.
Das Training verläuft als iteratives Spiel. Der Diskriminator wird zunächst auf einem bekannten Datensatz trainiert, um echtes von Fake mit akzeptabler Genauigkeit zu unterscheiden. Dann wird der Generator basierend darauf trainiert, ob es ihm gelingt, den Diskriminator zu täuschen. Unabhängige Backpropagation-Verfahren werden auf beide Netzwerke angewendet: Der Generator passt seine Gewichte an, um überzeugendere Stichproben zu erzeugen, während der Diskriminator seine Fähigkeit verbessert, synthetische Eingaben zu kennzeichnen. Bei der Bilderzeugung ist der Generator typischerweise ein dekonvolutionales neuronales Netzwerk, und der Diskriminator ist ein konvolutionales neuronales Netzwerk.
Die Zielfunktion für das ursprüngliche GAN-Spiel ist über die Referenzverteilung (echte Daten) und die Generatorverteilung definiert. Der Diskriminator zielt darauf ab, die logarithmische Wahrscheinlichkeit der korrekten Klassifizierung von echten und Fake-Eingaben zu maximieren, während der Generator darauf abzielt, dieselbe Zielfunktion zu minimieren, indem er effektiv versucht, den Diskriminator dazu zu bringen, für erzeugte Stichproben 1 auszugeben. Diese Nullsummenformulierung treibt beide Netzwerke zur Verbesserung, bis die Verteilung des Generators eng mit der Referenzverteilung übereinstimmt.
Mathematische Formulierung
Formal ist das GAN-Spiel auf einem Wahrscheinlichkeitsraum (Ω, μ_ref) definiert. Die Strategiemenge des Generators ist die Menge aller Wahrscheinlichkeitsmaße μ_G auf Ω, während die Strategiemenge des Diskriminators aus Markov-Kernen von Ω zu Wahrscheinlichkeitsmaßen auf [0,1] besteht. Die Zielfunktion lautet:
L(μ_G, μ_D) = E_{x~μ_ref, y~μ_D(x)}[ln y] + E_{x~μ_G, y~μ_D(x)}[ln(1-y)]
Der Generator zielt darauf ab, diese Zielfunktion zu minimieren und sich μ_G ≈ μ_ref anzunähern, während der Diskriminator darauf abzielt, sie zu maximieren, indem er Werte nahe 1 für echte Daten und nahe 0 für erzeugte Daten ausgibt. Dieses Minimax-Spiel hat ein theoretisches Gleichgewicht, bei dem der Generator die Referenzverteilung perfekt repliziert und der Diskriminator nicht besser als Raten kann.
Beziehung zu anderen generativen Modellen
GANs sind implizite generative Modelle, das heißt, sie modellieren weder explizit die Likelihood-Funktion noch bieten sie eine Möglichkeit, die latente Variable zu finden, die einer gegebenen Stichprobe entspricht, im Gegensatz zu Alternativen wie flussbasierten generativen Modellen. Im Vergleich zu vollständig sichtbaren Belief-Netzwerken wie WaveNet und PixelRNN sowie autoregressiven Modellen im Allgemeinen können GANs in einem einzigen Durchgang eine vollständige Stichprobe erzeugen, anstatt mehrere Durchgänge durch das Netzwerk zu benötigen.
Im Gegensatz zu Boltzmann-Maschinen und linearer ICA legen GANs keine Einschränkung auf die Art der Funktion fest, die vom Netzwerk verwendet wird. Da neuronale Netzwerke universelle Approximatoren sind, sind GANs asymptotisch konsistent. Ab 2026 wurden auch Variations-Autoencoder als universelle Approximatoren nachgewiesen, aber GANs bleiben in ihrem adversariellen Trainingsparadigma deutlich. Dieser Ansatz hat GANs besonders effektiv für Aufgaben wie Bildsynthese, Stilübertragung und Datenaugmentierung gemacht, bei denen die Erzeugung realistischer hochdimensionaler Stichproben entscheidend ist.
Anwendungen und Auswirkungen
GANs haben bedeutende Fortschritte in Deep Learning und maschinellem Lernen vorangetrieben. Sie wurden häufig zur Erzeugung realistischer Bilder verwendet, einschließlich Gesichtern, Landschaften und medizinischen Bildern. In der Forschung zu künstlicher Intelligenz haben GANs Fortschritte im halbüberwachten Lernen ermöglicht, wo gekennzeichnete Daten knapp sind, und im bestärkenden Lernen, wo sie Umgebungen modellieren oder Trainingserfahrungen erzeugen können.
Das Konzept des adversariellen Trainings hat auch andere Bereiche beeinflusst, wie Transformatoren und große Sprachmodelle, obwohl diese Architekturen unterschiedliche Trainingsziele verwenden. GANs bleiben ein grundlegendes Framework in der generativen Modellierung, wobei laufende Forschung Herausforderungen wie Trainingsinstabilität und Modenkollaps adressiert, bei dem der Generator nur eine begrenzte Vielfalt erzeugt. Ihre Analogie zum evolutionären Wettrüsten inspiriert weiterhin neue Methoden in Wissenschaft und Industrie.
Einschränkungen und Herausforderungen
Trotz ihrer Leistungsfähigkeit stehen GANs vor mehreren bekannten Schwierigkeiten. Das Training kann instabil sein, da die beiden Netzwerke im Gleichgewicht gehalten werden müssen; wenn der Diskriminator zu stark wird, erhält der Generator verschwindende Gradienten, und wenn er zu schwach wird, lernt der Generator möglicherweise nicht effektiv. Moduskollaps ist ein weiteres häufiges Problem, bei dem der Generator nur eine kleine Teilmenge der möglichen Ausgaben erzeugt und die volle Vielfalt der Trainingsdaten nicht erfasst.
Die Bewertung der GAN-Leistung ist ebenfalls nicht trivial, da es keine explizite Likelihood zu messen gibt. Forscher verwenden häufig Metriken wie den Inception-Score oder die Fréchet-Inception-Distanz, die jedoch Einschränkungen haben. Seit Mitte der 2020er Jahre haben neuere generative Modelle, wie Diffusionsmodelle, für einige Aufgaben an Beliebtheit gewonnen, aber GANs bleiben ein aktives Forschungsgebiet, insbesondere für Echtzeitanwendungen und Umgebungen, in denen die Ein-Pass-Erzeugung vorteilhaft ist.
Einschränkungen und Herausforderungen
Trotz ihrer Leistungsfähigkeit stehen GANs vor mehreren bekannten Schwierigkeiten. Das Training kann instabil sein, da die beiden Netzwerke im Gleichgewicht gehalten werden müssen; wenn der Diskriminator zu stark wird, erhält der Generator verschwindende Gradienten, und wenn er zu schwach wird, lernt der Generator möglicherweise nicht effektiv. Moduskollaps ist ein weiteres häufiges Problem, bei dem der Generator nur eine kleine Teilmenge der möglichen Ausgaben erzeugt und die volle Vielfalt der Trainingsdaten nicht erfasst.
Die Bewertung der GAN-Leistung ist ebenfalls nicht trivial, da es keine explizite Likelihood zu messen gibt. Forscher verwenden häufig Metriken wie den Inception-Score oder die Fréchet-Inception-Distanz, aber diese haben Einschränkungen. Ab Mitte der 2020er Jahre haben neuere generative Modelle, einschließlich Diffusionsmodellen, bei einigen Aufgaben an Beliebtheit gewonnen, aber GANs bleiben ein aktives Forschungsgebiet, insbesondere für Echtzeitanwendungen und Aufgaben, bei denen die Ein-Pass-Erzeugung vorteilhaft ist.