Transfer Learning ist die Praxis, ein Modell oder die Darstellungen, die es gelernt hat, von einer Aufgabe als Ausgangspunkt für eine andere, aber verwandte Aufgabe wiederzuverwenden, anstatt ein neues Modell mit zufällig initialisierten Gewichten zu trainieren. Es beruht auf der Beobachtung, dass viele Aufgaben innerhalb einer Domäne, wie das Erkennen von Kanten und Formen in Bildern oder das Verstehen von Grammatik und Wortbeziehungen in Texten, eine gemeinsame zugrunde liegende Struktur aufweisen, sodass ein Modell, das diese Struktur bereits gelernt hat, vergleichsweise wenig zusätzliche Daten benötigt, um sich weiter zu spezialisieren.
Geschichte und Motivation
Transfer Learning hat seine Wurzeln in der Kognitionswissenschaft und der frühen maschinellen Lernforschung der 1990er Jahre, die "Lernen zu lernen" untersuchte, wurde aber nach dem ImageNet-Moment 2012 zu einem dominanten praktischen Paradigma, als AlexNet zeigte, dass ein Convolutional neural network, das auf einer Million beschrifteter Bilder trainiert wurde, visuelle Merkmale, Kanten, Texturen und Objektteile lernte, die sich bemerkenswert gut auf völlig andere Bildklassifikationsprobleme übertragen ließen, mit nur einer kleinen Menge aufgabenspezifischer Daten und Nachschulung. Dies machte Transfer Learning für Jahre zur Standardstrategie im Computer Vision: Anstatt von Grund auf zu trainieren, nahmen Praktiker ein auf ImageNet vortrainiertes Netzwerk und passten es an.
In der Verarbeitung natürlicher Sprache kam ein analoger Wandel später, katalysiert durch Arbeiten wie den ULMFiT-Ansatz von Jeremy Howard und Sebastian Ruder und dann entscheidend durch BERT im Jahr 2018, das zeigte, dass ein einzelnes Modell, das mit einem generischen Sprachmodellierungsziel vortrainiert wurde, auf eine breite Palette von NLP-Aufgaben bis zum Stand der Technik feinabgestimmt werden konnte. Dies etablierte das Rezept "Vortrainieren und dann übertragen" als Standard, das weiterhin modernen großen Sprachmodellen zugrunde liegt.
Beziehung zu Vortraining und Feinabstimmung
Transfer Learning ist das allgemeine Prinzip; Pretraining und Fine-tuning sind der spezifische Mechanismus, durch den es heute im Deep Learning üblicherweise durchgeführt wird. Ein Modell wird auf einem großen, allgemeinen Datensatz vortrainiert, oft unter Verwendung von Self-supervised learning, sodass keine manuellen Beschriftungen erforderlich sind, und dieses vortrainierte Modell wird dann auf einem kleineren beschrifteten Datensatz für die Zielaufgabe feinabgestimmt. Der Erfolg von Transfer Learning hängt davon ab, wie verwandt die Quell- und Zielaufgaben oder -domänen sind: Die Übertragung von natürlichen Bildern auf medizinische Röntgenaufnahmen funktioniert weniger gut als die Übertragung zwischen zwei Aufgaben mit natürlichen Bildern, da sich die statistische Struktur der Daten auf niedriger Ebene stärker unterscheidet.
Techniken
Es gibt mehrere Strategien, wie viel eines vortrainierten Modells angepasst werden soll. Merkmalsextraktion friert das vortrainierte Netzwerk vollständig ein und trainiert nur eine neue letzte Schicht auf seinen Ausgaben, was nützlich ist, wenn der Zieldatensatz sehr klein ist. Vollständige Feinabstimmung aktualisiert alle Parameter und erzielt typischerweise die beste Leistung, wenn genügend Daten aus der Zieldomäne verfügbar sind. Parameter-effiziente Methoden wie LoRA liegen zwischen diesen Extremen, indem sie eine kleine Anzahl zusätzlicher Parameter anpassen, während sie den Großteil der vortrainierten Gewichte unberührt lassen, was besonders wichtig geworden ist, da Basismodelle auf Hunderte von Milliarden Parametern angewachsen sind.
Bedeutung
Transfer Learning ist ein Hauptgrund, warum Deep Learning außerhalb einiger weniger gut ausgestatteter Labore praktikabel wurde: Ein Forschungsteam oder Unternehmen ohne das Budget, ein großes Modell von Grund auf zu trainieren, kann dennoch ein leistungsfähiges, spezialisiertes System aufbauen, indem es ein vorhandenes vortrainiertes Modell anpasst. Es liegt auch dem breiteren Wandel hin zu Foundation-Modellen zugrunde, bei denen ein einzelnes großes vortrainiertes Modell als gemeinsame Grundlage für viele nachgelagerte Anwendungen dient, anstatt dass jede Anwendung ihr eigenes, von Grund auf trainiertes Modell benötigt. Die zentrale Einschränkung der Technik, manchmal als negatives Transfer bezeichnet, besteht darin, dass die Anpassung eines Modells an eine Domäne, die zu unähnlich zu seinen Vortrainingsdaten ist, schlechter abschneiden kann als das Training von Grund auf, was die Wahl eines gut passenden Basismodells zu einer wichtigen praktischen Entscheidung macht.