La detección fuera de distribución (OOD) es un subcampo del aprendizaje automático que se ocupa de identificar entradas que no pertenecen a la misma distribución estadística que los datos con los que se entrenó un modelo. En los sistemas desplegados, los modelos a menudo se encuentran con entradas que son novedosas, anómalas o de dominios diferentes, y no reconocerlas puede llevar a predicciones incorrectas con consecuencias potencialmente graves. La detección OOD tiene como objetivo señalar dichas entradas para que los sistemas puedan responder adecuadamente, por ejemplo, absteniéndose, escalando a un humano o activando un mecanismo de respaldo.
El problema es distinto de tareas relacionadas como la detección de anomalías o la detección de novedades, aunque los términos a veces se usan indistintamente. La detección OOD generalmente asume una distribución de entrenamiento conocida y se centra en entradas que se encuentran fuera de su soporte, mientras que la detección de anomalías también puede considerar eventos raros dentro de la distribución. En el aprendizaje profundo moderno, la detección OOD se ha convertido en un componente crítico para implementar redes neuronales en dominios de seguridad crítica como la conducción autónoma, el diagnóstico médico y la detección de fraude financiero.
Métodos y enfoques
Los primeros métodos de detección OOD se basaban en las puntuaciones de confianza softmax de las redes de clasificación, observando que los modelos tienden a asignar menor confianza a las entradas OOD. Sin embargo, las redes neuronales a menudo son demasiado confiadas, y este enfoque resultó poco fiable. Investigaciones posteriores introdujeron técnicas más robustas, incluido el escalado de temperatura, que ajusta la distribución softmax para separar mejor las muestras dentro de la distribución y las OOD. El método conocido como ODIN (detector fuera de distribución para redes neuronales) combinó el escalado de temperatura con el preprocesamiento de entradas para amplificar la diferencia.
Otra línea de trabajo utiliza métricas basadas en distancias en el espacio de características. Modelos como los enfoques de vecino más cercano profundo (DNN) calculan la distancia entre la representación de una entrada de prueba y los centroides de las clases de entrenamiento, señalando entradas que están lejos de todos los centroides. Los métodos basados en la distancia de Mahalanobis modelan la distribución de características como una gaussiana multivariante y utilizan la distancia de Mahalanobis como puntuación, mostrando un buen rendimiento en conjuntos de datos de referencia.
Los modelos generativos también se han empleado para la detección OOD. Los enfoques que utilizan IA generativa, como los autoencoders variacionales (VAE) y las redes generativas adversariales (GAN), intentan modelar explícitamente la distribución de entrenamiento y medir la verosimilitud de una entrada de prueba bajo ese modelo. Sin embargo, se ha demostrado que los métodos basados en verosimilitud a veces asignan mayor verosimilitud a entradas OOD, un fenómeno contraintuitivo que ha impulsado más investigación sobre por qué los modelos generativos profundos se comportan de esta manera.
Evaluación y puntos de referencia
Los puntos de referencia estándar para la detección OOD incluyen conjuntos de datos como CIFAR-10, CIFAR-100 e ImageNet como datos dentro de la distribución, con conjuntos OOD extraídos de otros conjuntos de datos como SVHN, Tiny ImageNet o LSUN. Las métricas comúnmente utilizadas incluyen el área bajo la curva característica operativa del receptor (AUROC), la tasa de falsos positivos a una tasa de verdaderos positivos fija (FPR@TPR) y la tasa de error de detección. Estas métricas permiten a los investigadores comparar métodos en diferentes configuraciones y umbrales.
En los últimos años, los puntos de referencia se han ampliado para incluir escenarios más desafiantes, como el cambio semántico (donde las entradas OOD provienen de clases novedosas) y el cambio covariable (donde la distribución de entrada cambia pero el espacio de etiquetas permanece igual). El punto de referencia OpenOOD, introducido en 2021, proporciona un marco unificado para evaluar métodos de detección OOD en múltiples tareas y conjuntos de datos, ayudando a estandarizar las comparaciones.
Desafíos y limitaciones
A pesar del progreso, la detección OOD sigue siendo un problema abierto. Un desafío importante es el problema del exceso de confianza: las redes profundas a menudo producen predicciones de alta confianza para entradas que están lejos de la distribución de entrenamiento. Esto es particularmente problemático en los modelos de lenguaje grandes (LLM), donde el espacio de entrada es discreto y de alta dimensionalidad, lo que dificulta definir qué constituye una entrada OOD. Para los modelos basados en transformadores, la detección OOD a menudo implica analizar probabilidades o incrustaciones a nivel de token, pero estos métodos aún están en etapas tempranas.
Otro desafío es la maldición de la dimensionalidad. En espacios de alta dimensionalidad, las distancias se vuelven menos significativas y la estimación de densidad se vuelve intratable. Esto afecta por igual a los métodos basados en distancias y en verosimilitud. Además, los métodos de detección OOD a menudo son sensibles a la elección de hiperparámetros y a la arquitectura específica, lo que dificulta la generalización entre modelos.
También existe una limitación teórica: sin suposiciones sobre la distribución OOD, es imposible garantizar una detección perfecta. Esto ha llevado a investigaciones sobre detección OOD robusta y demostrable, que a menudo requieren suposiciones restrictivas sobre el proceso de generación de datos.
Aplicaciones y direcciones futuras
La detección OOD se aplica ampliamente en sistemas de seguridad crítica. En la conducción autónoma, por ejemplo, un sistema de percepción debe reconocer cuándo se encuentra con un objeto o escena no visto durante el entrenamiento, como un obstáculo inusual en la carretera. Empresas como Waymo y Tesla Autopilot invierten en detección OOD robusta para prevenir accidentes. En el ámbito de la salud, la detección OOD ayuda a señalar imágenes médicas que difieren del conjunto de entrenamiento, reduciendo el riesgo de diagnósticos erróneos. En finanzas, puede identificar transacciones fraudulentas que se desvían de los patrones normales.
Para los modelos de lenguaje grandes, la detección OOD se utiliza para identificar indicaciones que están fuera del alcance o son adversariales, ayudando a mitigar la alucinación y el uso indebido. La investigación en esta área está en curso, con métodos que aprovechan las representaciones internas de los transformadores o la incertidumbre de los tokens generados.
Las direcciones futuras incluyen el desarrollo de métodos de detección OOD que sean independientes del modelo y puedan aplicarse a diferentes arquitecturas, incluidas las redes neuronales y los transformadores. También hay interés en el aprendizaje continuo, donde los modelos deben detectar entradas OOD mientras se adaptan a nuevas distribuciones a lo largo del tiempo. A medida que los sistemas de IA se vuelven más omnipresentes, la detección OOD fiable será esencial para construir sistemas confiables y robustos.
Véase también
- detección de anomalías
- calibración de confianza
- cambio de distribución
- robustez