El aprendizaje multitarea (MTL, por sus siglas en inglés) es un subcampo del aprendizaje automático en el que se resuelven múltiples tareas de aprendizaje al mismo tiempo, aprovechando las similitudes y diferencias entre ellas. Este enfoque puede resultar en una mayor eficiencia de aprendizaje y precisión de predicción para los modelos específicos de cada tarea, en comparación con entrenar los modelos por separado. Inherentemente, el aprendizaje multitarea es un problema de optimización multiobjetivo que presenta compensaciones entre diferentes tareas. Las versiones tempranas del MTL se denominaban "pistas" (hints).
En un artículo de 1997 ampliamente citado, Rich Caruana caracterizó el MTL como un enfoque de transferencia inductiva que mejora la generalización mediante el uso de la información de dominio contenida en las señales de entrenamiento de tareas relacionadas como un sesgo inductivo. Esto se logra aprendiendo las tareas en paralelo mientras se utiliza una representación compartida; lo que se aprende para cada tarea puede ayudar a que otras tareas se aprendan mejor. En el contexto de clasificación, el MTL tiene como objetivo mejorar el rendimiento de múltiples tareas de clasificación aprendiéndolas de manera conjunta. Un ejemplo es un filtro de spam, que puede tratarse como tareas de clasificación distintas pero relacionadas entre diferentes usuarios. Diferentes personas tienen distribuciones de características distintas que distinguen el spam de los correos legítimos (por ejemplo, un hablante de inglés puede considerar spam todos los correos en ruso, pero un hablante de ruso no), aunque existe un punto en común, como el texto relacionado con transferencias de dinero. Resolver el problema de clasificación de spam de cada usuario de manera conjunta mediante MTL permite que las soluciones se informen entre sí y mejoren el rendimiento. Otros escenarios incluyen la clasificación multiclase y la clasificación multietiqueta.
El aprendizaje multitarea funciona porque la regularización inducida al requerir que un algoritmo funcione bien en una tarea relacionada puede ser superior a la regularización que previene el sobreajuste penalizando toda la complejidad de manera uniforme. El MTL puede ser particularmente útil cuando las tareas comparten similitudes significativas y generalmente están ligeramente submuestreadas, aunque también se ha demostrado beneficioso para aprender tareas no relacionadas.
Agrupación de Tareas y Superposición
Dentro del paradigma del MTL, la información puede compartirse entre algunas o todas las tareas. Dependiendo de la estructura de la relación entre tareas, se puede compartir información de manera selectiva. Las tareas pueden agruparse, existir en una jerarquía, o estar relacionadas según una métrica general. Formalmente, el vector de parámetros que modela cada tarea puede ser una combinación lineal de vectores base subyacentes. La similitud en esta base indica la relación entre tareas; por ejemplo, con escasez (sparsity), la superposición de coeficientes no nulos entre tareas indica un punto en común. Una agrupación de tareas corresponde a tareas que se encuentran en un subespacio generado por un subconjunto de elementos base, con grupos que pueden ser disjuntos o superpuestos. La relación entre tareas puede imponerse a priori o aprenderse de los datos. La relación jerárquica también puede explotarse implícitamente sin aprendizaje explícito, como al aprender la relevancia de las muestras entre tareas para asegurar un aprendizaje conjunto efectivo entre dominios.
Explotación de Tareas No Relacionadas: Aprendizaje Auxiliar
En el aprendizaje auxiliar, se aprende un grupo de tareas principales utilizando un grupo de tareas auxiliares no relacionadas con las principales. Con las tareas no relacionadas adecuadas, se ha demostrado que el aprendizaje conjunto utilizando los mismos datos de entrada es beneficioso, proporcionando una mejora significativa sobre el MTL estándar. El conocimiento previo sobre la relación entre tareas puede llevar a representaciones más escasas e informativas para cada agrupación de tareas, al filtrar las idiosincrasias de la distribución de datos. Los métodos pueden favorecer una representación compartida de baja dimensión dentro de cada agrupación e imponer una penalización a las tareas de diferentes grupos para fomentar representaciones ortogonales. Aprender con tareas auxiliares no relacionadas plantea dos desafíos: encontrar tareas auxiliares útiles y combinar las pérdidas de todas las tareas de manera útil. Algunos métodos aprenden estos aspectos de los datos durante el entrenamiento.
Transferencia de Conocimiento
Relacionado con el MTL está la transferencia de conocimiento. El MTL tradicional desarrolla una representación compartida de manera concurrente entre tareas, mientras que la transferencia de conocimiento implica una representación compartida secuencial. Proyectos de aprendizaje automático a gran escala, como la red neuronal convolucional profunda GoogLeNet (un clasificador de objetos basado en imágenes), pueden desarrollar representaciones robustas útiles para algoritmos adicionales que aprenden tareas relacionadas. Un modelo preentrenado puede usarse como extractor de características para el preprocesamiento en otro algoritmo de aprendizaje, o usarse para inicializar un modelo con arquitectura similar que luego se ajusta finamente para una tarea de clasificación diferente. Este enfoque es común en la práctica del aprendizaje profundo y las redes neuronales, incluido el desarrollo de modelos de lenguaje grandes.
Múltiples Tareas No Estacionarias
Tradicionalmente, el MTL y la transferencia de conocimiento se aplican a entornos de aprendizaje estacionarios. Su extensión a entornos no estacionarios se denomina Aprendizaje Adaptativo en Línea por Grupos (GOAL, por sus siglas en inglés). Compartir información puede ser particularmente útil cuando los aprendices operan en entornos que cambian continuamente, ya que un aprendiz puede beneficiarse de la experiencia previa de otro para adaptarse rápidamente. Este aprendizaje adaptativo por grupos tiene aplicaciones en la predicción de series temporales financieras, sistemas de recomendación de contenido y comprensión visual para agentes autónomos adaptativos.
Optimización Multitarea
La optimización multitarea se centra en resolver todo el proceso de optimización, inspirada en la transferencia de aprendizaje y el MTL en análisis predictivo. La motivación clave es que si las tareas de optimización están relacionadas en términos de soluciones óptimas o características del paisaje de funciones, el progreso de búsqueda puede transferirse para acelerar la búsqueda en otras tareas. El éxito no se limita a la transferencia de conocimiento unidireccional de tareas más simples a más complejas; en la práctica, se intenta aprovechar la relación de manera bidireccional.
Métodos y Arquitecturas
El desafío clave en el MTL es combinar las señales de aprendizaje de múltiples tareas en un solo modelo. Esto depende de cuán bien las tareas concuerdan o se contradicen entre sí. Los enfoques arquitectónicos comunes en el aprendizaje profundo incluyen el intercambio de parámetros duro, donde se utiliza una capa oculta compartida entre tareas con capas de salida específicas de cada tarea, y el intercambio de parámetros suave, donde cada tarea tiene su propio modelo con parámetros regularizados para fomentar la similitud. En modelos basados en transformadores, el MTL se implementa a menudo mediante el ajuste fino multitarea, donde un modelo preentrenado se entrena en múltiples objetivos simultáneamente, a veces utilizando cabezas específicas de tarea. Técnicas como aumento de datos, abandono y normalización por lotes pueden ayudar a regularizar representaciones compartidas. Métodos de optimización como optimizador Adam y variantes de SGD se utilizan comúnmente, con ajustes de programación de tasa de aprendizaje para equilibrar las pérdidas de las tareas.
Aplicaciones e Investigación
El MTL se ha aplicado en diversos dominios. En visión por computadora, modelos como GoogLeNet y arquitecturas de red residual se benefician del entrenamiento conjunto en tareas relacionadas como la detección de objetos y la segmentación. En el procesamiento del lenguaje natural, modelos transformadores como los de OpenAI, Anthropic y Google DeepMind utilizan MTL durante el preentrenamiento en diversos objetivos. En la industria, empresas como Amazon Web Services, Microsoft Azure y Google Cloud ofrecen capacidades de MTL en sus plataformas de IA. Instituciones de investigación como MIT CSAIL, Stanford AI Lab, BAIR (Berkeley AI Research) y University of Toronto han contribuido con trabajo fundamental. Investigadores notables incluyen a Michael I. Jordan, Anima Anandkumar y rich-sutton (aunque no en la lista proporcionada, el campo tiene muchos contribuyentes). El MTL también se cruza con el aprendizaje curricular, donde las tareas se ordenan por dificultad, y con RLHF, que utiliza retroalimentación humana para múltiples objetivos.
Desafíos y Direcciones Futuras
A pesar de los beneficios, el MTL enfrenta desafíos como la transferencia negativa, donde tareas no relacionadas degradan el rendimiento, y el equilibrio de las pérdidas de las tareas. Se están desarrollando técnicas de optimización multiobjetivo para manejar las compensaciones. A partir de principios de la década de 2020, la investigación continúa sobre la ponderación adaptativa de tareas, métodos de agrupación de tareas y la extensión del MTL a entornos no estacionarios y multiagente. El paradigma sigue siendo una herramienta central en la inteligencia artificial para mejorar la generalización y la eficiencia.