Multi-task learning (MTL) ist ein Teilgebiet des maschinellen Lernens, bei dem mehrere Lernaufgaben gleichzeitig gelöst werden, während Gemeinsamkeiten und Unterschiede zwischen den Aufgaben genutzt werden. Dieser Ansatz kann im Vergleich zum separaten Training der Modelle zu einer verbesserten Lerneffizienz und Vorhersagegenauigkeit für aufgabenspezifische Modelle führen. Grundsätzlich ist Multi-task Learning ein multiobjektives Optimierungsproblem mit Abwägungen zwischen verschiedenen Aufgaben. Frühe Versionen von MTL wurden als „Hinweise“ (Hints) bezeichnet.
In einem vielzitierten Artikel von 1997 charakterisierte Rich Caruana MTL als einen Ansatz zum induktiven Transfer, der die Generalisierung verbessert, indem er die in den Trainingssignalen verwandter Aufgaben enthaltenen Domäneninformationen als induktive Verzerrung nutzt. Dies geschieht, indem Aufgaben parallel gelernt werden, während eine gemeinsame Repräsentation verwendet wird; was für jede Aufgabe gelernt wird, kann anderen Aufgaben helfen, besser gelernt zu werden. Im Klassifikationskontext zielt MTL darauf ab, die Leistung mehrerer Klassifikationsaufgaben zu verbessern, indem sie gemeinsam gelernt werden. Ein Beispiel ist ein Spamfilter, der als unterschiedliche, aber verwandte Klassifikationsaufgaben für verschiedene Benutzer behandelt werden kann. Verschiedene Personen haben unterschiedliche Verteilungen von Merkmalen, die Spam von legitimen E-Mails unterscheiden (z. B. könnte ein Englischsprecher alle russischen E-Mails als Spam betrachten, ein Russischsprecher jedoch nicht), dennoch gibt es Gemeinsamkeiten, wie Text im Zusammenhang mit Geldtransfers. Die gemeinsame Lösung des Spam-Klassifikationsproblems jedes Benutzers über MTL ermöglicht es den Lösungen, sich gegenseitig zu informieren und die Leistung zu verbessern. Weitere Einstellungen umfassen Mehrklassenklassifikation und Multi-Label-Klassifikation.
Multi-task Learning funktioniert, weil die Regularisierung, die durch die Anforderung induziert wird, dass ein Algorithmus bei einer verwandten Aufgabe gut abschneidet, einer Regularisierung überlegen sein kann, die Überanpassung verhindert, indem alle Komplexität gleichmäßig bestraft wird. MTL kann besonders hilfreich sein, wenn Aufgaben erhebliche Gemeinsamkeiten aufweisen und im Allgemeinen leicht unterabgetastet sind, obwohl es auch als vorteilhaft für das Lernen unverwandter Aufgaben gezeigt wurde.
Aufgaben gruppieren und überlappen
Innerhalb des MTL-Paradigmas können Informationen über einige oder alle Aufgaben geteilt werden. Abhängig von der Struktur der Aufgabenverwandtschaft kann man Informationen selektiv teilen. Aufgaben können gruppiert werden, in einer Hierarchie existieren oder gemäß einer allgemeinen Metrik verwandt sein. Formal kann der Parametervektor, der jede Aufgabe modelliert, eine lineare Kombination zugrunde liegender Basisvektoren sein. Ähnlichkeit in dieser Basis zeigt Aufgabenverwandtschaft an; zum Beispiel zeigt bei Sparsity die Überlappung von Nicht-Null-Koeffizienten über Aufgaben hinweg Gemeinsamkeit an. Eine Aufgabengruppierung entspricht Aufgaben, die in einem Unterraum liegen, der durch eine Teilmenge von Basiselementen erzeugt wird, wobei Gruppen disjunkt oder überlappend sein können. Aufgabenverwandtschaft kann a priori auferlegt oder aus Daten gelernt werden. Hierarchische Verwandtschaft kann auch implizit ohne explizites Lernen genutzt werden, beispielsweise durch das Lernen von Beispielrelevanz über Aufgaben hinweg, um effektives gemeinsames Lernen über Domänen hinweg sicherzustellen.
Nutzung unverwandter Aufgaben: Hilfslernen
Beim Hilfslernen lernt man eine Gruppe von Hauptaufgaben unter Verwendung einer Gruppe von Hilfsaufgaben, die nicht mit den Hauptaufgaben verwandt sind. Mit den richtigen unverwandten Aufgaben hat sich gemeinsames Lernen unter Verwendung derselben Eingabedaten als vorteilhaft erwiesen und bietet eine signifikante Verbesserung gegenüber Standard-MTL. Vorwissen über Aufgabenverwandtschaft kann zu spärlicheren und informativeren Repräsentationen für jede Aufgabengruppierung führen, indem Eigenheiten der Datenverteilung herausgefiltert werden. Methoden können eine gemeinsame niedrigdimensionale Repräsentation innerhalb jeder Gruppierung bevorzugen und eine Strafe für Aufgaben aus verschiedenen Gruppen auferlegen, um orthogonale Repräsentationen zu fördern. Das Lernen mit unverwandten Hilfsaufgaben stellt zwei Herausforderungen: das Finden nützlicher Hilfsaufgaben und das sinnvolle Kombinieren der Verluste aller Aufgaben. Einige Methoden lernen diese während des Trainings aus Daten.
Wissenstransfer
Verwandt mit MTL ist der Wissenstransfer. Traditionelles MTL entwickelt eine gemeinsame Repräsentation gleichzeitig über Aufgaben hinweg, während Wissenstransfer eine sequenziell geteilte Repräsentation impliziert. Groß angelegte Projekte des maschinellen Lernens, wie das tiefe konvolutionäre neuronale Netzwerk GoogLeNet (ein bildbasierter Objektklassifikator), können robuste Repräsentationen entwickeln, die für weitere Algorithmen nützlich sind, die verwandte Aufgaben lernen. Ein vortrainiertes Modell kann als Merkmalsextraktor für die Vorverarbeitung in einem anderen Lernalgorithmus verwendet werden oder zur Initialisierung eines Modells mit ähnlicher Architektur, das dann für eine andere Klassifikationsaufgabe feinabgestimmt wird. Dieser Ansatz ist in der Praxis des tiefen Lernens und neuronaler Netze üblich, einschließlich der Entwicklung von großen Sprachmodellen.
Mehrere nicht-stationäre Aufgaben
Traditionell gelten MTL und Wissenstransfer für stationäre Lernumgebungen. Ihre Erweiterung auf nicht-stationäre Umgebungen wird als Group Online Adaptive Learning (GOAL) bezeichnet. Das Teilen von Informationen kann besonders nützlich sein, wenn Lernende in sich kontinuierlich ändernden Umgebungen arbeiten, da ein Lernender von den früheren Erfahrungen eines anderen Lernenden profitieren kann, um sich schnell anzupassen. Solches gruppenadaptives Lernen hat Anwendungen bei der Vorhersage von Finanzzeitreihen, Inhaltsempfehlungssystemen und visuellem Verständnis für adaptive autonome Agenten.
Multi-Task-Optimierung
Die Multi-Task-Optimierung konzentriert sich auf die Lösung des gesamten Optimierungsprozesses, inspiriert durch Transferlernen und MTL in der prädiktiven Analytik. Die Hauptmotivation ist, dass, wenn Optimierungsaufgaben in Bezug auf optimale Lösungen oder Merkmale der Funktionslandschaft verwandt sind, Suchfortschritt übertragen werden kann, um die Suche bei anderen Aufgaben zu beschleunigen. Der Erfolg ist nicht auf einen einseitigen Wissenstransfer von einfacheren zu komplexeren Aufgaben beschränkt; in der Praxis wird versucht, Verwandtschaft bidirektional zu nutzen.
Methoden und Architekturen
Die zentrale Herausforderung bei MTL ist die Kombination von Lernsignalen aus mehreren Aufgaben in einem einzigen Modell. Dies hängt davon ab, wie gut Aufgaben übereinstimmen oder sich widersprechen. Häufige architektonische Ansätze im tiefen Lernen umfassen hartes Parameter-Sharing, bei dem eine gemeinsame verborgene Schicht über Aufgaben hinweg mit aufgabenspezifischen Ausgabeschichten verwendet wird, und weiches Parameter-Sharing, bei dem jede Aufgabe ihr eigenes Modell mit regularisierten Parametern hat, um Ähnlichkeit zu fördern. In Transformer-basierten Modellen wird MTL oft durch Multi-Task-Feinabstimmung implementiert, bei der ein vortrainiertes Modell gleichzeitig auf mehreren Zielen trainiert wird, manchmal mit aufgabenspezifischen Köpfen. Techniken wie Datenaugmentation, Dropout und Batch-Normalisierung können helfen, gemeinsame Repräsentationen zu regularisieren. Optimierungsmethoden wie Adam-Optimierer und SGD-Varianten werden häufig verwendet, mit Anpassungen des Lernratenplans, um Aufgabenverluste auszugleichen.
Anwendungen und Forschung
MTL wurde in verschiedenen Bereichen angewendet. In der Computer Vision profitieren Modelle wie GoogLeNet und Residualnetz-Architekturen vom gemeinsamen Training auf verwandten Aufgaben wie Objekterkennung und Segmentierung. In der Verarbeitung natürlicher Sprache verwenden Transformer-Modelle wie die von OpenAI, Anthropic und Google DeepMind MTL während des Vortrainings auf verschiedenen Zielen. In der Industrie bieten Unternehmen wie Amazon Web Services, Azure und Google Cloud MTL-Fähigkeiten in ihren KI-Plattformen an. Forschungseinrichtungen wie MIT CSAIL, Stanford AI Lab, Berkeley AI Research und University of Toronto haben grundlegende Arbeiten beigetragen. Bekannte Forscher sind Michael Jordan, Anima Anandkumar und Rich Sutton (obwohl nicht in der bereitgestellten Liste, hat das Feld viele Mitwirkende). MTL überschneidet sich auch mit Curriculum-Lernen, bei dem Aufgaben nach Schwierigkeit geordnet werden, und RLHF, das menschliches Feedback für mehrere Ziele verwendet.
Herausforderungen und zukünftige Richtungen
Trotz der Vorteile steht MTL vor Herausforderungen wie negativem Transfer, bei dem unverwandte Aufgaben die Leistung verschlechtern, und dem Ausbalancieren von Aufgabenverlusten. Multiobjektive Optimierungstechniken werden entwickelt, um Abwägungen zu bewältigen. Ab den frühen 2020er Jahren wird weiterhin an adaptiver Aufgabenwichtung, Methoden zur Aufgabengruppierung und der Erweiterung von MTL auf nicht-stationäre und Multi-Agenten-Umgebungen geforscht. Das Paradigma bleibt ein Kernwerkzeug in der künstlichen Intelligenz zur Verbesserung von Generalisierung und Effizienz.