Ein generatives adversaries Netzwerk (GAN) ist eine Klasse von Frameworks des maschinellen Lernens und ein prominentes Framework zur Annäherung an generative KI. Das Konzept wurde ursprünglich von Ian Goodfellow und seinen Kollegen im Juni 2014 entwickelt. In einem GAN konkurrieren zwei neuronale Netze miteinander in Form eines Nullsummenspiels, bei dem der Gewinn des einen Akteurs der Verlust des anderen ist.
Gegeben eine Trainingsmenge lernt diese Technik, neue Daten mit derselben Statistik wie die Trainingsmenge zu erzeugen. Beispielsweise kann ein GAN, das mit Fotografien trainiert wurde, neue Fotografien erzeugen, die menschlichen Betrachtern zumindest oberflächlich authentisch erscheinen und viele realistische Merkmale aufweisen. Obwohl ursprünglich als eine Form generativer Modelle für unüberwachtes Lernen vorgeschlagen, haben sich GANs auch für halbüberwachtes Lernen, vollständig überwachtes Lernen und bestärkendes Lernen als nützlich erwiesen.
Die Kernidee eines GAN basiert auf dem „indirekten“ Training durch den Diskriminator, ein weiteres neuronales Netz, das beurteilen kann, wie „realistisch“ die Eingabe erscheint, und das selbst ebenfalls dynamisch aktualisiert wird. Dies bedeutet, dass der Generator nicht darauf trainiert wird, die Distanz zu einem bestimmten Bild zu minimieren, sondern den Diskriminator zu täuschen. Dies ermöglicht dem Modell, auf unüberwachte Weise zu lernen.
GANs ähneln der Mimikry in der Evolutionsbiologie, mit einem evolutionären Wettrüsten zwischen beiden Netzen.
Mathematische Definition
Das ursprüngliche GAN ist als ein Spiel definiert. Jeder Wahrscheinlichkeitsraum \((\Omega, \mu_{\text{ref}})\) definiert ein GAN-Spiel. Es gibt zwei Spieler: Generator und Diskriminator. Die Strategiemenge des Generators ist \(\mathcal{P}(\Omega)\), die Menge aller Wahrscheinlichkeitsmaße \(\mu_G\) auf \(\Omega\). Die Strategiemenge des Diskriminators ist die Menge der Markov-Kerne \(\mu_D: \Omega \to \mathcal{P}[0,1]\), wobei \(\mathcal{P}[0,1]\) die Menge der Wahrscheinlichkeitsmaße auf \([0,1]\) ist.
Das GAN-Spiel ist ein Nullsummenspiel mit der Zielfunktion:
\[ L(\mu_G, \mu_D) := \mathbb{E}_{x \sim \mu_{\text{ref}}, y \sim \mu_D(x)}[\ln y] + \mathbb{E}_{x \sim \mu_G, y \sim \mu_D(x)}[\ln(1-y)]. \]
Der Generator zielt darauf ab, die Zielfunktion zu minimieren, und der Diskriminator darauf, sie zu maximieren. Die Aufgabe des Generators besteht darin, \(\mu_G \approx \mu_{\text{ref}}\) anzunähern, also seine Ausgabeverteilung so genau wie möglich an die Referenzverteilung anzupassen. Die Aufgabe des Diskriminators besteht darin, einen Wert nahe 1 auszugeben, wenn die Eingabe aus der Referenzverteilung zu stammen scheint, und nahe 0, wenn die Eingabe wie aus der Generatorverteilung stammend aussieht.
In der Praxis
Das generative Netz erzeugt Kandidaten, während das diskriminative Netz diese bewertet. Dies erzeugt einen Wettbewerb auf der Grundlage von Datenverteilungen, bei dem der Generator lernt, von einem latenten Raum auf die wahre Datenverteilung abzubilden, mit dem Ziel, Kandidaten zu erzeugen, die der Diskriminator nicht von echten Daten unterscheiden kann. Das Ziel des Diskriminators ist es, diese Kandidaten korrekt zu identifizieren, aber mit der Verbesserung des Generators wird seine Aufgabe anspruchsvoller, was die Fehlerrate des Diskriminators erhöht.
Ein bekannter Datensatz dient als anfängliche Trainingsdaten für den Diskriminator. Das Training umfasst das Präsentieren von Stichproben aus dem Trainingsdatensatz, bis eine akzeptable Genauigkeit erreicht ist. Der Generator wird basierend darauf trainiert, ob es ihm gelingt, den Diskriminator zu täuschen. Typischerweise wird der Generator mit zufälligem Eingang gespeist, der aus einem vordefinierten latenten Raum (z. B. einer multivariaten Normalverteilung) abgetastet wird. Danach werden vom Generator synthetisierte Kandidaten vom Diskriminator bewertet. Unabhängige Backpropagation-Verfahren werden auf beide Netze angewendet, sodass der Generator bessere Stichproben erzeugt, während der Diskriminator geschickter darin wird, synthetische Stichproben zu kennzeichnen. Bei der Bilderzeugung ist der Generator typischerweise ein dekonvolutionelles neuronales Netz, und der Diskriminator ist ein convolutionelles neuronales Netz.
Beziehung zu anderen statistischen Methoden des maschinellen Lernens
GANs sind implizite generative Modelle, was bedeutet, dass sie weder die Likelihood-Funktion explizit modellieren noch eine Möglichkeit bieten, die latente Variable zu finden, die einer gegebenen Stichprobe entspricht, im Gegensatz zu Alternativen wie flussbasierten generativen Modellen.
Im Vergleich zu vollständig sichtbaren Belief-Netzen wie WaveNet und PixelRNN sowie autoregressiven Modellen im Allgemeinen können GANs eine vollständige Stichprobe in einem Durchgang erzeugen, anstatt mehrerer Durchgänge durch das Netz. Im Vergleich zu Boltzmann-Maschinen und linearer ICA gibt es keine Einschränkung hinsichtlich der Art der vom Netz verwendeten Funktion.
Da neuronale Netze universelle Approximatoren sind, sind GANs asymptotisch konsistent. Stand 2026 wurde bewiesen, dass variationale Autoencoder universelle Approximatoren sind, aber GANs bleiben ein eigenständiger und einflussreicher Ansatz im Bereich des maschinellen Lernens und Deep Learning. Das Framework hat zahlreiche Varianten und Anwendungen inspiriert und zur breiteren Entwicklung der künstlichen Intelligenz und der Forschung an neuronalen Netzen beigetragen.