Los Modelos de Cuello de Botella de Conceptos (CBMs) son una clase de arquitecturas de redes neuronales diseñadas para realizar predicciones en un proceso de dos etapas, con una capa intermedia explícita e interpretable por humanos de conceptos. En lugar de mapear entradas brutas directamente a salidas, un CBM primero predice un conjunto de atributos predefinidos y semánticamente significativos (los conceptos), y luego utiliza estos conceptos predichos para tomar la decisión final. Este diseño permite a los humanos inspeccionar, comprender e incluso intervenir en el razonamiento interno del modelo, abordando una limitación clave de los modelos de caja negra estándar en aprendizaje automático y aprendizaje profundo.
El enfoque de cuello de botella de conceptos fue introducido formalmente en un artículo de 2020 por Pang Wei Koh, Thao Nguyen, Yew Siang Tang, Stephen Mussmann, Brandon Ying y Percy Liang, afiliados a la Universidad de Stanford y la Universidad de Toronto. El artículo, titulado "Concept Bottleneck Models", demostró que al forzar al modelo a predecir conceptos interpretables antes de la salida final, se podía lograr una precisión competitiva mientras se obtenía la capacidad de depurar y controlar el comportamiento del modelo. Este trabajo se basó en ideas anteriores de representaciones interpretables y desenredadas, pero proporcionó una arquitectura concreta y entrenable que desde entonces ha influido en una amplia gama de investigaciones.
Arquitectura y Entrenamiento
Un Modelo de Cuello de Botella de Conceptos consta de tres componentes principales: un codificador de entrada, un predictor de conceptos y un predictor de tareas. El codificador de entrada procesa los datos brutos (por ejemplo, una imagen, una secuencia de texto o un registro tabular) en una representación de características. El predictor de conceptos luego mapea esta representación a un vector de puntuaciones de conceptos, una para cada concepto predefinido. Finalmente, el predictor de tareas toma estas puntuaciones de conceptos (y opcionalmente las características originales) como entrada para producir la salida final, como una etiqueta de clase o un valor de regresión.
Entrenar un CBM típicamente sigue uno de tres paradigmas: entrenamiento independiente, entrenamiento secuencial y entrenamiento conjunto. En el entrenamiento independiente, el predictor de conceptos se entrena primero para predecir etiquetas de conceptos verdaderas, y luego el predictor de tareas se entrena sobre los conceptos predichos (o sobre conceptos verdaderos, con el predictor de conceptos congelado). El entrenamiento secuencial entrena primero el predictor de conceptos, luego el predictor de tareas mientras se mantiene fijo el predictor de conceptos, pero utiliza los conceptos predichos durante el entrenamiento de la tarea. El entrenamiento conjunto optimiza ambos componentes simultáneamente, a menudo con una pérdida ponderada que combina el error de predicción de conceptos y el error de predicción de tareas. El entrenamiento conjunto generalmente produce la mejor precisión de tarea, pero puede sacrificar la precisión de conceptos. Una variante común es el entrenamiento "consciente de intervención", donde el modelo se entrena para ser robusto a correcciones humanas de las predicciones de conceptos, permitiendo a los usuarios corregir errores en el momento de la prueba.
Interpretabilidad e Intervención
La motivación principal de los CBMs es la interpretabilidad. Al restringir el modelo a razonar a través de conceptos comprensibles por humanos, los usuarios pueden ver qué conceptos cree el modelo que están presentes y cómo esos conceptos influyen en la predicción final. Por ejemplo, en una tarea de clasificación de aves, un CBM podría predecir conceptos como "tiene vientre amarillo", "tiene alas puntiagudas" y "tiene cola larga", y luego usarlos para clasificar la especie. Esta transparencia permite a los expertos en el dominio verificar que el modelo está utilizando características sensatas en lugar de correlaciones espurias.
Una característica distintiva de los CBMs es la capacidad de intervenir. Si un usuario sabe que la predicción de concepto del modelo es incorrecta (por ejemplo, no detectó un vientre amarillo), puede corregir manualmente ese valor de concepto, y el predictor de tareas producirá una nueva salida basada en el concepto corregido. Esta capacidad de humano en el circuito es valiosa en dominios de alto riesgo como la medicina o las finanzas, donde un error del modelo puede corregirse antes de tomar una decisión final. La investigación ha demostrado que incluso un pequeño número de intervenciones puede mejorar significativamente la precisión, especialmente cuando el predictor de conceptos es imperfecto.
Aplicaciones
Los CBMs se han aplicado en diversos dominios. En imágenes médicas, se han utilizado para el diagnóstico de radiografías de tórax, donde los conceptos corresponden a patologías visibles como "cardiomegalia" o "derrame". En dermatología, los CBMs pueden predecir atributos de lesiones cutáneas antes de clasificar la malignidad. En conducción autónoma, conceptos como "peatón presente" o "color del semáforo" pueden usarse para tomar decisiones de conducción, aunque esto es menos común que en tareas de percepción. En procesamiento de lenguaje natural, los CBMs se han aplicado al análisis de sentimientos y la detección de toxicidad, con conceptos como "contiene profanidad" o "expresa ira". En datos tabulares, los CBMs se han utilizado para la calificación crediticia, donde conceptos como "nivel de ingresos" e "historial de pagos" son interpretables.
Variantes y Extensiones
Se han propuesto varias variantes de CBMs para abordar limitaciones. Los CBMs sin etiquetas (introducidos en 2022 por Tu, Ma y otros) eliminan la necesidad de anotaciones manuales de conceptos al utilizar un gran modelo preentrenado (por ejemplo, un modelo de lenguaje grande o un modelo de visión-lenguaje) para generar automáticamente etiquetas de conceptos a partir de descripciones de clases. Esto reduce la carga de anotación, que es un cuello de botella importante para aplicar CBMs a nuevas tareas. Otra variante, el Modelo de Incrustación de Conceptos, proyecta los conceptos en un espacio de incrustación continuo en lugar de usar etiquetas binarias o categóricas, permitiendo representaciones de conceptos más ricas. Los CBMs post-hoc intentan extraer un cuello de botella de conceptos de un modelo de caja negra ya entrenado, utilizando técnicas de sondeo o agrupamiento para identificar dimensiones interpretables.
Otras extensiones incluyen CBMs probabilísticos, que modelan la incertidumbre de los conceptos, y CBMs interactivos, que permiten a los usuarios consultar al modelo sobre qué conceptos son más influyentes. Algunos trabajos han integrado CBMs con arquitecturas transformadoras, utilizando mecanismos de atención para alinear conceptos con regiones de entrada.
Limitaciones y Desafíos
A pesar de sus beneficios, los CBMs enfrentan varios desafíos. El más significativo es el requisito de anotaciones de conceptos, que son costosas y a menudo subjetivas. Definir un conjunto completo y no superpuesto de conceptos para una tarea es difícil, y los conceptos faltantes pueden llevar a pérdida de información y precisión reducida. Los CBMs también tienden a tener un rendimiento inferior en comparación con los modelos de caja negra estándar en tareas complejas, ya que el cuello de botella de conceptos restringe el flujo de información. El equilibrio entre interpretabilidad y precisión es una cuestión central de investigación.
Otro problema es la fuga de conceptos: el predictor de tareas podría aprender a usar las predicciones de conceptos de maneras no intencionadas, o el predictor de conceptos podría codificar información más allá de los conceptos declarados (por ejemplo, a través de características correlacionadas). Esto puede hacer que el modelo sea menos interpretable de lo previsto. Además, las intervenciones humanas solo son efectivas si el predictor de tareas es robusto a las correcciones de conceptos; de lo contrario, corregir un concepto podría no cambiar la salida como se espera.
Relación con Otros Métodos de Interpretabilidad
Los CBMs son parte de una familia más amplia de técnicas de aprendizaje automático interpretable. A menudo se contrastan con métodos de explicación post-hoc como mapas de prominencia o atribución basada en gradientes, que intentan explicar un modelo de caja negra después del entrenamiento. Los CBMs son inherentemente interpretables por diseño, lo que generalmente se prefiere para decisiones de alto riesgo. También están relacionados con explicaciones basadas en conceptos, como las Pruebas con Vectores de Activación de Conceptos (TCAV), que utilizan derivadas direccionales para medir la influencia de conceptos, pero TCAV no restringe la arquitectura del modelo. Los CBMs a veces se comparan con árboles de decisión y modelos basados en reglas, que también son inherentemente interpretables pero menos flexibles.
Investigación Actual y Direcciones Futuras
La investigación sobre CBMs continúa evolucionando. Trabajos recientes se han centrado en escalar los CBMs a conjuntos de datos a gran escala e integrarlos con modelos fundacionales. Por ejemplo, el uso de incrustaciones estilo CLIP para definir conceptos en un espacio continuo ha mostrado promesa. Otra dirección es el uso de CBMs en aprendizaje por refuerzo y robótica, donde las representaciones intermedias interpretables pueden ayudar con la seguridad y la depuración. También hay interés en usar CBMs para la equidad y la mitigación de sesgos, ya que los cuellos de botella de conceptos permiten a los auditores verificar si se están utilizando atributos protegidos.
A partir de 2025, los CBMs siguen siendo un área activa de investigación, con artículos que aparecen en conferencias importantes como NeurIPS, ICML e ICLR. El equilibrio entre interpretabilidad y rendimiento aún no está completamente resuelto, pero el campo se está moviendo hacia modelos basados en conceptos más flexibles y escalables, incluidos aquellos que aprenden conceptos dinámicamente en lugar de depender de conjuntos fijos definidos por humanos.