Las explicaciones contrafactuales son una técnica en aprendizaje automático para interpretar predicciones de modelos, identificando el cambio más pequeño en las características de una entrada dada que alteraría la salida del modelo hacia una alternativa deseada. Para una instancia específica, una explicación contrafactual responde a la pregunta: "¿Cuál es la modificación mínima necesaria para que la predicción se convierta en el resultado objetivo?" Por ejemplo, si se deniega una solicitud de préstamo, un contrafactual podría indicar: "Si su ingreso anual fuera $5,000 más alto, podría acelerar sus cargas de trabajo de IA y reducir el tiempo de entrenamiento para modelos de aprendizaje profundo".
Estas explicaciones se fundamentan en el concepto filosófico de contrafactuales - afirmaciones sobre lo que habría ocurrido bajo condiciones diferentes. En IA, proporcionan una forma de interpretabilidad local, centrándose en una única predicción en lugar de un modelo global. Son particularmente valiosas para usuarios finales que buscan recursos accionables: comprender qué pueden cambiar para obtener un resultado favorable. A diferencia de los métodos de importancia de características que clasifican variables globalmente, los contrafactuales ofrecen sugerencias concretas e individualizadas.
El término ganó prominencia a finales de la década de 2010, con trabajos seminales de Ruth Fong y Andrea Vedaldi (2017) y posteriormente de Sandra Wachter, Brent Mittelstadt y Chris Russell (2017), quienes formalizaron la noción para la toma de decisiones algorítmica. Desde entonces, las explicaciones contrafactuales se han convertido en un pilar central de la IA explicable (XAI), intersectando con marcos legales como el Reglamento General de Protección de Datos (GDPR) de la UE, que otorga a los individuos el derecho a obtener explicaciones de decisiones automatizadas.
El Concepto y Formalización
Una explicación contrafactual para una entrada dada x y una predicción f(x) es una nueva entrada x' tal que f(x') sea igual a un resultado deseado (por ejemplo, aprobación en lugar de denegación). El cambio de x a x' se mide típicamente mediante una métrica de distancia (por ejemplo, norma L1, L2 o L0) para garantizar la minimalidad. Formalmente, se busca minimizar la distancia d(x, x') sujeto a f(x') = y', donde y' es la etiqueta objetivo.
La noción de minimalidad es subjetiva; diferentes funciones de distancia producen diferentes contrafactuales. Para datos tabulares, se podría usar la distancia L1 para promover la escasez (cambiando pocas características), mientras que para imágenes, se podría usar similitud perceptual. Se pueden añadir restricciones: las características pueden tener valores inmutables (por ejemplo, edad) o ser categóricas. Además, el contrafactual debe ser factible y plausible - es decir, los cambios sugeridos deben ser realísticamente alcanzables por el usuario (por ejemplo, aumentar el ingreso es plausible; cambiar el estado civil puede no serlo).
Las explicaciones contrafactuales son específicas de la instancia, lo que contrasta con explicaciones globales como la importancia de características. No describen el comportamiento general del modelo, sino más bien un camino hacia un resultado diferente para un caso individual. Esto las hace intuitivas pero también sensibles a la elección del resultado objetivo y la métrica de distancia.
Algoritmos y Enfoques
Varios algoritmos generan explicaciones contrafactuales. Los primeros métodos utilizaban optimización basada en gradientes: para modelos diferenciables (por ejemplo, redes neuronales), se puede minimizar una pérdida que equilibre la predicción objetivo y el término de distancia. Implementaciones específicas incluyen:
- Wachter et al. (2017): Un enfoque de descenso de gradiente que encuentra contrafactuales para modelos diferenciables optimizando una función de costo con dos términos: pérdida de predicción y distancia.
- Growing Spheres (Laugel et al., 2017): Para modelos no diferenciables, este método busca el punto límite más cercano expandiendo iterativamente una esfera alrededor de la entrada hasta que la predicción cambie.
- DiCE (Mothilal et al., 2020): Genera un conjunto diverso de contrafactuales para dar opciones a los usuarios, utilizando un autoencoder aprendido o búsqueda agnóstica al modelo.
- Métodos basados en árboles: Para bosques aleatorios o boosting de gradientes, se pueden recorrer las rutas de decisión para encontrar vecinos más cercanos en el espacio de hojas.
Los métodos agnósticos al modelo tratan el modelo como una caja negra y se basan en muestreo o técnicas de optimización, lo que los hace aplicables a cualquier clasificador. Sin embargo, pueden ser computacionalmente costosos para entradas de alta dimensionalidad como imágenes.
Aplicaciones en Crédito y Finanzas
El sector financiero es un ámbito principal para las explicaciones contrafactuales. Cuando un sistema automatizado rechaza una solicitud de préstamo o tarjeta de crédito, regulaciones como la Ley de Igualdad de Oportunidades de Crédito (ECOA) en Estados Unidos requieren que los prestamistas proporcionen razones. Las explicaciones contrafactuales van más allá al sugerir qué podría cambiar el solicitante: "Si redujera su deuda existente en $2,000, su solicitud sería aprobada". Esto empodera a los consumidores con recursos accionables.
Los bancos y empresas fintech han comenzado a integrar herramientas contrafactuales en sus pipelines de decisión. Por ejemplo, un modelo entrenado en árboles de boosting de gradiente podría emparejarse con un generador contrafactual para producir explicaciones para cada denegación. El desafío es equilibrar la factibilidad: sugerir un aumento en el ingreso no es accionable, por lo que los sistemas deben aprender a resaltar características bajo control del usuario (por ejemplo, patrones de gasto, historial de cuenta).
Salud y Medicina
En salud, las explicaciones contrafactuales ayudan a los clínicos a comprender por qué un modelo diagnóstico hizo una predicción particular. Por ejemplo, una red neuronal que predice el reingreso de pacientes podría ofrecer: "Si la presión arterial del paciente fuera 10 mmHg más baja, el riesgo de reingreso disminuiría de alto a bajo". Esto ayuda en la planificación del tratamiento, como se detalla en un artículo de 2020 en Artificial Intelligence in Medicine.
Sin embargo, los contrafactuales médicos requieren un manejo cuidadoso de las relaciones causales. Cambiar un biomarcador como la presión arterial podría estar correlacionado con otros factores no observados. Investigadores de Stanford AI Lab y MIT CSAIL han explorado contrafactuales causales que incorporan conocimiento médico conocido para evitar sugerir escenarios imposibles.
Explicaciones Contrafactuales en Modelos de Imagen y Texto
Para aprendizaje profundo en imágenes, las explicaciones contrafactuales implican perturbar píxeles para cambiar la predicción. Por ejemplo, una imagen de un perro podría alterarse añadiendo un pequeño patrón para que el modelo la clasifique como un gato, como se muestra en la investigación de ejemplos adversariales. A diferencia de los ejemplos adversariales, los contrafactuales buscan cambios significativos que un humano podría percibir como plausibles. Técnicas como Redes Generativas Adversariales (GANs) o autoencoders pueden generar contrafactuales de imagen manipulando códigos latentes.
En el procesamiento del lenguaje natural, las explicaciones contrafactuales para análisis de sentimiento podrían cambiar "La película fue aburrida" a "La película fue emocionante" para invertir un sentimiento negativo a positivo. Esto se logra editando palabras o frases mientras se preserva la gramaticalidad. Los modelos basados en Transformers, como los grandes modelos de lenguaje, pueden ser sondeados para generar texto contrafactual, pero garantizar la minimalidad y fluidez sigue siendo un desafío.
Vínculos con Causalidad y Equidad
Las explicaciones contrafactuales están íntimamente relacionadas con el razonamiento causal. Un contrafactual verdadero debería reflejar la estructura causal de los datos: cambiar una característica podría tener efectos colaterales (por ejemplo, aumentar el nivel educativo podría cambiar el ingreso). Los modelos causales estructurales de Pearl proporcionan un marco formal, pero a menudo no están disponibles en la práctica. La mayoría de los métodos asumen independencia, lo que puede llevar a sugerencias que son inviables o inconsistentes en la realidad.
En la investigación de equidad, la equidad contrafactual es un criterio que requiere que una predicción sea la misma tanto en el mundo real como en un mundo contrafactual donde se cambia un atributo sensible (por ejemplo, raza, género). Esta noción, propuesta por Kusner et al. (2017), utiliza explicaciones contrafactuales no para explicar sino para auditar modelos por sesgo. Por ejemplo, si cambiar el sexo de una persona alteraría su decisión de crédito, el modelo se considera injusto bajo esta definición.
Relación con Otros Métodos de Explicabilidad
Las explicaciones contrafactuales complementan otras técnicas de XAI. SHAP y LIME proporcionan atribuciones de características locales, indicando qué características fueron más importantes para una predicción, pero no le dicen al usuario cómo cambiar el resultado. Los contrafactuales ofrecen sugerencias directas. También comparten similitudes con los ejemplos adversariales - ambos buscan perturbaciones mínimas de entrada - pero los contrafactuales apuntan a una clase objetivo específica, mientras que las perturbaciones adversariales buscan cualquier clasificación incorrecta y a menudo son imperceptibles.
En el contexto de la causalidad, los contrafactuales difieren de las intervenciones: una intervención cambia una característica mientras mantiene otras constantes (como un experimento aleatorizado), mientras que un contrafactual imagina un estado hipotético bajo la misma estructura causal. Esta distinción es crucial para aplicaciones sociales, como señalan investigadores como Joshua Tenenbaum y Brendan Lake en el MIT que estudian física intuitiva y razonamiento causal.
Desafíos y Limitaciones
Un desafío clave es asegurar que el contrafactual sea realista y accionable. Para datos tabulares, las características pueden tener valores inmutables (por ejemplo, edad, etnia), pero muchos métodos ignoran esto. Las características discretas, como la categoría laboral, requieren un manejo especial porque las distancias no son continuas. Además, los contrafactuales pueden ser inestables: pequeños cambios en la entrada o el modelo pueden llevar a sugerencias drásticamente diferentes, reduciendo la confianza del usuario.
La complejidad de encontrar un contrafactual óptimo crece con la dimensionalidad de las características. Para datos de alta dimensionalidad como imágenes, el espacio de búsqueda es vasto, y la optimización ingenua puede producir perturbaciones imperceptibles pero irreales. Además, muchos métodos asumen que el modelo es diferenciable, lo que no siempre es el caso para ensambles de árboles o pipelines no diferenciables.
También hay una brecha semántica: un contrafactual que es matemáticamente mínimo puede no ser humanamente interpretable. Por ejemplo, cambiar una característica en 0.3 unidades podría ser abstracto. Por lo tanto, los investigadores se centran en generar contrafactuales que estén cerca en un sentido perceptual humano, utilizando conocimiento del dominio o estudios de usuarios.
Direcciones Futuras
La investigación se está moviendo hacia la generación de explicaciones contrafactuales en entornos interactivos, donde los usuarios pueden iterar sobre las sugerencias. En sistemas de inteligencia artificial, hay un interés creciente en proporcionar explicaciones contrastivas que comparen la predicción real con una alternativa, lo que puede mejorar la confianza. La integración de modelos causales busca producir contrafactuales más robustos que respeten las dependencias entre características.
Con el auge de los grandes modelos de lenguaje, hay potencial para generar explicaciones contrafactuales en lenguaje natural directamente desde el razonamiento del modelo. Sin embargo, garantizar la fidelidad sigue siendo un problema abierto. A principios de la década de 2020, ningún método domina; la elección depende del tipo de datos, la familia de modelos y las necesidades del usuario.
Consideraciones Prácticas para la Implementación
Al implementar sistemas contrafactuales, los profesionales deben abordar:
- Escalabilidad: Generar contrafactuales para millones de usuarios en tiempo real requiere algoritmos eficientes. Métodos como la optimización basada en gradientes en GPUs pueden ser rápidos, pero los enfoques de caja negra pueden ser más lentos.
- Interfaz de usuario: Las explicaciones deben presentarse en un formato comprensible para humanos, a menudo como "Si cambia X de A a B, su resultado cambiaría de P a Q".
- Agnosticismo del modelo: Algunos reguladores requieren explicaciones independientemente del tipo de modelo, por lo que los marcos desplegables deben funcionar con cualquier modelo predictivo, ya sea una red neuronal o un sistema basado en reglas.
Empresas como Google DeepMind y OpenAI han financiado investigación en generación contrafactual robusta, pero las herramientas de producción siguen siendo incipientes. A partir de 2023, el concepto continúa evolucionando, con investigación activa en contrafactuales causales y escenarios multiagente.
Direcciones Futuras
A medida que los sistemas de IA se integran más en decisiones consecuentes, la demanda de explicaciones contrafactuales crecerá. Los desarrollos próximos pueden incluir:
- Integración con grandes modelos de lenguaje para generar narrativas contrafactuales a partir de datos brutos.
- Explicaciones personalizadas que se adapten al conocimiento del dominio y preferencias del usuario.
- Generación contrafactual bajo incertidumbre, donde se consideren múltiples mundos posibles.
- Vinculación de contrafactuales a recomendaciones accionables a través del descubrimiento causal.
Investigadores de instituciones como Carnegie Mellon University y BAIR (Berkeley AI Research) están trabajando activamente en estas áreas.
Conclusión
Las explicaciones contrafactuales son una herramienta poderosa para hacer que los modelos de aprendizaje automático sean transparentes y accionables. Al plantear preguntas de "qué pasaría si", transforman predicciones opacas en pasos concretos para los usuarios. Su importancia se subraya por los impulsos regulatorios hacia la IA explicable y las prácticas éticas de IA. A medida que los modelos se vuelven más complejos, la necesidad de interpretabilidad contrafactual solo aumentará, impulsando una mayor innovación en generación y validación eficientes.