El aprendizaje por transferencia es la práctica de reutilizar un modelo, o las representaciones que ha aprendido, de una tarea como punto de partida para otra tarea diferente pero relacionada, en lugar de entrenar un modelo nuevo desde pesos inicializados aleatoriamente. Se basa en la observación de que muchas tareas dentro de un dominio, como reconocer bordes y formas en imágenes o comprender la gramática y las relaciones entre palabras en texto, comparten una estructura subyacente, por lo que un modelo que ya ha aprendido esa estructura necesita comparativamente pocos datos adicionales para especializarse aún más.
Historia y motivación
El aprendizaje por transferencia tiene raíces en la ciencia cognitiva y en la investigación temprana de aprendizaje automático de la década de 1990 que exploraba el "aprender a aprender", pero se convirtió en un paradigma práctico dominante tras el momento de ImageNet en 2012, cuando AlexNet demostró que una red neuronal convolucional entrenada en un millón de imágenes etiquetadas aprendía características visuales, bordes, texturas, y partes de objetos, que se transferían notablemente bien a problemas de clasificación de imágenes completamente diferentes con solo una pequeña cantidad de datos específicos de la tarea y reentrenamiento. Esto convirtió al aprendizaje por transferencia en la estrategia predeterminada en visión por computadora durante años: en lugar de entrenar desde cero, los profesionales tomaban una red preentrenada en ImageNet y la adaptaban
En el procesamiento del lenguaje natural, un cambio análogo llegó más tarde, catalizado por trabajos como el enfoque ULMFiT de Jeremy Howard y Sebastian Ruder y luego de manera decisiva por BERT en 2018, que mostró que un solo modelo preentrenado en un objetivo genérico de modelado del lenguaje podía ser ajustado finamente para lograr un rendimiento de vanguardia en una amplia gama de tareas de PLN. Esto estableció la receta estándar de "preentrenar y luego transferir" que continúa subyaciendo a los modernos grandes modelos de lenguaje.
Relación con el preentrenamiento y el ajuste fino
El aprendizaje por transferencia es el principio general; el preentrenamiento y el ajuste fino son el mecanismo específico mediante el cual se lleva a cabo generalmente en el aprendizaje profundo hoy en día. Un modelo se preentrena en un conjunto de datos grande y general, a menudo usando aprendizaje autosupervisado para que no se requieran etiquetas manuales, y este modelo preentrenado se ajusta finamente luego en un conjunto de datos etiquetado más pequeño para la tarea objetivo. El éxito del aprendizaje por transferencia depende de cuán relacionadas estén las tareas o dominios de origen y destino: transferir desde imágenes naturales a radiografías médicas funciona menos bien que transferir entre dos tareas de imágenes naturales, porque la estructura estadística de bajo nivel de los datos difiere más
Técnicas
Existen varias estrategias para cuánto de un modelo preentrenado se debe adaptar. La extracción de características congela la red preentrenada por completo y entrena solo una nueva capa final sobre sus salidas, útil cuando el conjunto de datos objetivo es muy pequeño. El ajuste fino completo actualiza todos los parámetros y típicamente logra el mejor rendimiento cuando hay suficientes datos del dominio objetivo disponibles. Los métodos eficientes en parámetros como LoRA se sitúan entre estos extremos, adaptando un pequeño número de parámetros adicionales mientras dejan la mayoría de los pesos preentrenados intactos, lo que se ha vuelto especialmente importante a medida que los modelos base han crecido hasta cientos de miles de millones de parámetros
Importancia
El aprendizaje por transferencia es una razón principal por la que el aprendizaje profundo se volvió práctico fuera de un puñado de laboratorios con buenos recursos: un equipo de investigación o empresa sin el presupuesto para entrenar un modelo grande desde cero puede aún construir un sistema capaz y especializado adaptando un modelo preentrenado existente. También subyace al cambio más amplio hacia los modelos fundacionales, donde un solo modelo preentrenado grande sirve como sustrato compartido para muchas aplicaciones posteriores en lugar de que cada aplicación requiera su propio modelo entrenado desde el principio. La limitación central de la técnica, a veces llamada transferencia negativa, es que adaptar un modelo a un dominio demasiado disímil de sus datos de preentrenamiento puede funcionar peor que entrenar desde cero, lo que convierte la elección de un modelo base bien emparejado en una decisión práctica importante.