Eine Faltungsschicht ist ein Kernbestandteil vieler neuronaler Netze, insbesondere solcher, die für die Bild- und Signalverarbeitung verwendet werden. Im Gegensatz zu voll verbundenen Schichten, die jedes Eingangsneuron mit jedem Ausgangsneuron verbinden, wendet eine Faltungsschicht eine Reihe von lernbaren Filtern (auch Kernel genannt) in einem gleitenden Fenster über die Eingabe an. Diese als Faltung bekannte Operation erkennt lokale Merkmale wie Kanten, Ecken oder Texturen und erzeugt Merkmalskarten, die hervorheben, wo diese Muster auftreten. Das Design der Schicht reduziert die Anzahl der Parameter im Vergleich zu dichten Schichten und bietet Translationsinvarianz, was bedeutet, dass ein Muster unabhängig von seiner Position in der Eingabe erkannt werden kann.
Faltungsschichten wurden durch die Forschung zur biologischen visuellen Kortex inspiriert, insbesondere durch David Hubel und Torsten Wiesel in den 1960er Jahren, die herausfanden, dass Neuronen im visuellen System der Katze auf lokalisierte Reize reagieren. Frühe künstliche Umsetzungen umfassen das Neocognitron von Kunihiko Fukushima aus dem Jahr 1980 und später die LeNet-Architektur von Yann LeCun in den 1990er Jahren, die Faltungsschichten zur Erkennung handschriftlicher Ziffern verwendete. Seitdem sind Faltungsschichten im Deep Learning allgegenwärtig geworden und treiben Anwendungen von der medizinischen Bildgebung bis zum autonomen Fahren an.
Funktionsweise und Hyperparameter
Eine Faltungsschicht nimmt einen Eingabetensor (z. B. ein 2D-Bild mit mehreren Farbkanälen) entgegen und wendet eine Reihe von Filtern an. Jeder Filter ist eine kleine Gewichtsmatrix, typischerweise 3x3 oder 5x5, die mit einer bestimmten Schrittweite (Stride) über die Eingabe gleitet. An jeder Position berechnet die Schicht das Skalarprodukt zwischen den Filtergewichten und dem entsprechenden Eingabeausschnitt und erzeugt einen einzelnen Ausgabewert. Das Ergebnis ist eine 2D-Aktivierungskarte für jeden Filter, und das Stapeln dieser Karten entlang der Tiefendimension bildet den Ausgabetensor.
Zu den wichtigsten Hyperparametern gehören Filtergröße, Schrittweite, Padding und die Anzahl der Filter. Padding (häufig Zero-Padding) steuert die räumlichen Dimensionen der Ausgabe und ermöglicht es der Schicht, die Eingabegröße beizubehalten oder zu reduzieren. Die Schrittweite beeinflusst das Downsampling; größere Schrittweiten reduzieren die Ausgabeauflösung. Die Anzahl der Filter bestimmt die Tiefe der Ausgabemerkmalskarten, wobei jeder Filter lernt, eine andere Art von Merkmal zu erkennen. Nach der Faltung wird typischerweise eine Aktivierungsfunktion wie ReLU (Rectified Linear Unit) angewendet, um Nichtlinearität einzuführen.
Parameterteilung und lokale Konnektivität
Zwei Eigenschaften unterscheiden Faltungsschichten von voll verbundenen Schichten: lokale Konnektivität und Parameterteilung. Lokale Konnektivität bedeutet, dass jedes Ausgangsneuron nur mit einer kleinen Region der Eingabe verbunden ist, was die Idee widerspiegelt, dass nahegelegene Pixel stärker korreliert sind als entfernte. Parameterteilung bedeutet, dass dieselben Filtergewichte über alle räumlichen Positionen verwendet werden, was die Anzahl der lernbaren Parameter drastisch reduziert. Beispielsweise hat ein 3x3-Filter mit 3 Eingabekanälen und 64 Ausgabefiltern nur 333*64 = 1.728 Gewichte, während eine voll verbundene Schicht, die ein 256x256-Bild verarbeitet, Millionen von Gewichten benötigen würde. Diese Effizienz macht Faltungsschichten für hochdimensionale Eingaben praktikabel und hilft, Überanpassung zu vermeiden.
Rolle in modernen Architekturen
Faltungsschichten sind die Grundlage vieler klassischer und zeitgenössischer Netzwerkarchitekturen. Das Residual Network (ResNet), eingeführt von Kaiming He und Kollegen im Jahr 2015, verwendet Faltungsschichten mit Skip-Verbindungen, um sehr tiefe Netze (z. B. 50, 101 oder 152 Schichten) zu trainieren, und erzielte auf ImageNet Ergebnisse auf dem neuesten Stand der Technik. Die U-Net-Architektur, die für die biomedizinische Bildsegmentierung entwickelt wurde, verwendet Faltungsschichten in einer Encoder-Decoder-Struktur mit Skip-Verbindungen, um räumliche Details zu erhalten. Darüber hinaus werden Faltungsschichten häufig mit Batch-Normalisierung kombiniert, um das Training zu stabilisieren, und mit Dropout zur Regularisierung.
Über Bilder hinaus werden Faltungsschichten auf Audio (z. B. Spektrogramme), Text (z. B. zeichenbasierte Faltung) und Zeitreihendaten angewendet. Sie werden auch in Hybridmodellen verwendet, die Transformer oder Multi-Head-Attention für Aufgaben wie Bildbeschriftung integrieren. Obwohl Transformer in vielen Bereichen an Bedeutung gewonnen haben, bleiben Faltungsschichten für Aufgaben, die lokale Merkmalsextraktion und effiziente Verarbeitung hochauflösender Eingaben erfordern, unverzichtbar.
Training und Optimierung
Faltungsschichten werden mithilfe von Backpropagation trainiert, wobei Gradienten in Bezug auf die Filtergewichte berechnet und durch das Netzwerk propagiert werden. Der Standardoptimierer ist stochastischer Gradientenabstieg (SGD) oder seine Varianten wie Adam (siehe Adam-Optimierer). Hyperparameter wie Lernratenplan und Gewichtsinitialisierung beeinflussen die Konvergenz erheblich. Techniken wie Datenaugmentierung (z. B. zufällige Ausschnitte, Spiegelungen) helfen, die Generalisierung zu verbessern. Während des Trainings lernen die Filter allmählich, zunehmend komplexe Merkmale zu erkennen: Frühe Schichten erfassen Kanten und Farben, während tiefere Schichten diese zu Objektteilen und vollständigen Objekten kombinieren.
Einschränkungen und Alternativen
Faltungsschichten haben Einschränkungen, darunter ein festes rezeptives Feld, das nur mit der Tiefe wächst, was für die Erfassung weitreichender Abhängigkeiten ineffizient sein kann. Sie erfordern außerdem eine sorgfältige Abstimmung der Hyperparameter und können rechenintensiv sein, insbesondere bei großen Eingaben. Alternativen und Verbesserungen umfassen dilatierte Faltungen (die das rezeptive Feld erweitern, ohne die Parameter zu erhöhen), tiefenweise separable Faltungen (die in MobileNet für Effizienz verwendet werden) und Aufmerksamkeitsmechanismen, die räumliche Positionen dynamisch gewichten. Trotz dieser Alternativen bleiben Faltungsschichten ein robustes und weit verbreitetes Bauelement in Deep-Learning-Systemen, unterstützt durch Hardware-Optimierungen von Unternehmen wie NVIDIA und Google Cloud.