L'apprentissage multitâche (MTL) est un sous-domaine de l'apprentissage automatique dans lequel plusieurs tâches d'apprentissage sont résolues en même temps, en exploitant les points communs et les différences entre les tâches. Cette approche peut améliorer l'efficacité de l'apprentissage et la précision des prédictions pour des modèles spécifiques à chaque tâche, par rapport à un entraînement séparé des modèles. Fondamentalement, l'apprentissage multitâche est un problème d'optimisation multi-objectifs comportant des compromis entre les différentes tâches. Les premières versions du MTL étaient appelées « indices » (hints).
Dans un article largement cité de 1997, Rich Caruana a caractérisé le MTL comme une approche de transfert inductif qui améliore la généralisation en utilisant les informations de domaine contenues dans les signaux d'entraînement de tâches connexes comme biais inductif. Cela se fait en apprenant les tâches en parallèle tout en utilisant une représentation partagée ; ce qui est appris pour chaque tâche peut aider à mieux apprendre les autres tâches. Dans le contexte de la classification, le MTL vise à améliorer les performances de plusieurs tâches de classification en les apprenant conjointement. Un exemple est le filtre anti-spam, qui peut être considéré comme des tâches de classification distinctes mais connexes pour différents utilisateurs. En effet, les distributions des caractéristiques distinguant les courriers indésirables des courriers légitimes varient selon les utilisateurs (par exemple, un anglophone peut considérer tous les courriers en russe comme du spam, contrairement à un russophone), mais il existe des points communs, comme les textes liés aux transferts d'argent. Résoudre conjointement le problème de classification de chaque utilisateur via le MTL permet aux solutions de s'informer mutuellement et d'améliorer les performances. D'autres contextes incluent la classification multiclasse et la classification multi-étiquettes.
L'apprentissage multitâche fonctionne car la régularisation induite par l'exigence qu'un algorithme performe bien sur une tâche connexe peut être supérieure à une régularisation qui empêche le surapprentissage en pénalisant uniformément toute la complexité. Le MTL peut être particulièrement utile lorsque les tâches partagent des points communs significatifs et sont généralement légèrement sous-échantillonnées, bien qu'il ait également été démontré qu'il est bénéfique pour l'apprentissage de tâches sans rapport.
Regroupement et chevauchement des tâches
Dans le paradigme du MTL, les informations peuvent être partagées entre certaines ou toutes les tâches. Selon la structure de parenté entre les tâches, on peut partager les informations de manière sélective. Les tâches peuvent être regroupées, organisées en hiérarchie, ou liées selon une métrique générale. Formellement, le vecteur de paramètres modélisant chaque tâche peut être une combinaison linéaire de vecteurs de base sous-jacents. La similarité dans cette base indique la parenté entre les tâches ; par exemple, avec la parcimonie, le chevauchement des coefficients non nuls entre les tâches indique des points communs. Un regroupement de tâches correspond à des tâches situées dans un sous-espace généré par un sous-ensemble d'éléments de base, les groupes pouvant être disjoints ou se chevaucher. La parenté entre les tâches peut être imposée a priori ou apprise à partir des données.
Exploitation des tâches sans rapport : apprentissage auxiliaire
Dans l'apprentissage auxiliaire, on apprend un groupe de tâches principales à l'aide d'un groupe de tâches auxiliaires sans rapport avec les tâches principales. Avec les bonnes tâches sans rapport, l'apprentissage conjoint utilisant les mêmes données d'entrée s'est avéré bénéfique, offrant une amélioration significative par rapport au MTL standard. Des connaissances préalables sur la parenté des tâches peuvent conduire à des représentations plus parcimonieuses et plus informatives pour chaque regroupement de tâches, en éliminant les idiosyncrasies de la distribution des données. Les méthodes peuvent favoriser une représentation partagée de faible dimension au sein de chaque groupe et imposer une pénalité sur les tâches de différents groupes pour encourager des représentations orthogonales. L'apprentissage avec des tâches auxiliaires sans rapport pose deux défis : trouver des tâches auxiliaires utiles et combiner utilement les pertes de toutes les tâches. Certaines méthodes apprennent ces éléments à partir des données pendant l'entraînement.
Transfert de connaissances
Le MTL est lié au transfert de connaissances. Le MTL traditionnel développe une représentation partagée simultanément entre les tâches, tandis que le transfert de connaissances implique une représentation partagée séquentiellement. Les projets d'apprentissage automatique à grande échelle, comme le réseau de neurones convolutif profond GoogLeNet (un classificateur d'objets basé sur l'image), peuvent développer des représentations robustes utiles à d'autres algorithmes apprenant des tâches connexes. Un modèle pré-entraîné peut être utilisé comme extracteur de caractéristiques pour le prétraitement dans un autre algorithme d'apprentissage, ou pour initialiser un modèle avec une architecture similaire qui est ensuite affiné pour une tâche de classification différente. Cette approche est courante dans la pratique de l'apprentissage profond et des réseaux neuronaux, notamment dans le développement des grands modèles de langage.
Tâches multiples non stationnaires
Traditionnellement, le MTL et le transfert de connaissances s'appliquent à des contextes d'apprentissage stationnaires. Leur extension à des environnements non stationnaires est appelée apprentissage adaptatif en ligne par groupes (GOAL). Le partage d'informations peut être particulièrement utile lorsque les apprenants opèrent dans des environnements en évolution continue, car un apprenant peut bénéficier de l'expérience antérieure d'un autre apprenant pour s'adapter rapidement. De telles applications d'apprentissage adaptatif par groupes existent dans la prévision de séries temporelles financières, les systèmes de recommandation de contenu et la compréhension visuelle pour des agents autonomes adaptatifs.
Optimisation multitâche
L'optimisation multitâche se concentre sur la résolution du processus d'optimisation global, inspirée par le transfert d'apprentissage et le MTL dans l'analyse prédictive. La motivation clé est que si les tâches d'optimisation sont liées en termes de solutions optimales ou de caractéristiques du paysage de fonction, les progrès de recherche peuvent être transférés pour accélérer la recherche sur d'autres tâches. Le succès ne se limite pas à un transfert de connaissances unidirectionnel des tâches simples vers les tâches complexes ; en pratique, on tente d'exploiter la parenté de manière bidirectionnelle.
Méthodes et architectures
Le défi clé du MTL est de combiner les signaux d'apprentissage de plusieurs tâches en un seul modèle. Cela dépend de la manière dont les tâches s'accordent ou se contredisent. Les approches architecturales courantes en apprentissage profond incluent le partage de paramètres rigide, où une couche cachée partagée est utilisée pour toutes les tâches avec des couches de sortie spécifiques à chaque tâche, et le partage de paramètres souple, où chaque tâche possède son propre modèle avec des paramètres régularisés pour encourager la similarité. Dans les modèles basés sur les transformeurs, le MTL est souvent mis en œuvre par un affinage multitâche, où un modèle pré-entraîné est entraîné sur plusieurs objectifs simultanément, parfois avec des têtes spécifiques aux tâches. Des techniques comme l'augmentation de données, l'abandon (dropout) et la normalisation par lots peuvent aider à régulariser les représentations partagées. Des méthodes d'optimisation telles que Adam et d'autres variantes de descente de gradient sont couramment utilisées, avec des ajustements du taux d'apprentissage pour équilibrer les pertes des différentes tâches.
Applications et recherche
Le MTL a été appliqué dans de nombreux domaines. En vision par ordinateur, des modèles comme GoogLeNet et les architectures de réseaux résiduels bénéficient d'un entraînement conjoint sur des tâches connexes telles que la détection d'objets et la segmentation. En traitement du langage naturel, les modèles transformeurs comme ceux développés par OpenAI, Anthropic et Google DeepMind utilisent le MTL lors du pré-entraînement sur divers objectifs. Dans l'industrie, des entreprises comme Amazon Web Services, Microsoft Azure et Google Cloud proposent des capacités de MTL dans leurs plateformes d'IA. Des institutions de recherche telles que le CSAIL du MIT, le Stanford AI Lab et le Berkeley AI Research Lab ont contribué à des travaux fondateurs. Parmi les chercheurs notables figurent Michael Jordan et Anima Anandkumar. Le MTL recoupe également l'apprentissage par curriculum, où les tâches sont ordonnées par difficulté, et l'apprentissage par renforcement à partir de retours humains, qui utilise les retours humains pour plusieurs objectifs.
Défis et orientations futures
Malgré ses avantages, le MTL doit relever des défis tels que le transfert négatif, où des tâches sans rapport dégradent les performances, et l'équilibrage des pertes entre les tâches. Des techniques d'optimisation multi-objectifs sont développées pour gérer ces compromis. Depuis le début des années 2020, la recherche se poursuit sur la pondération adaptative des tâches, les méthodes de regroupement de tâches et l'extension du MTL à des contextes non stationnaires et multi-agents. Le paradigme reste un outil central en intelligence artificielle pour améliorer la généralisation et l'efficacité.