El valor de Shapley es un concepto de solución en la teoría de juegos cooperativos que proporciona un método para distribuir de manera justa las ganancias o costos totales entre un grupo de jugadores que han colaborado. Fue introducido por Lloyd Shapley en 1951 y desde entonces se ha convertido en una herramienta fundamental en economía, ciencia política y, más recientemente, en aprendizaje automático para interpretar predicciones de modelos. El valor asigna a cada jugador una parte del pago total basada en su contribución marginal promedio en todas las coaliciones posibles de otros jugadores. Es la distribución única que satisface cuatro propiedades clave: eficiencia, simetría, aditividad y la propiedad del jugador ficticio, lo que lo convierte en un estándar ampliamente aceptado para la asignación justa.
En el contexto del aprendizaje automático, el valor de Shapley se utiliza para explicar predicciones individuales atribuyendo la contribución de cada característica a la salida del modelo. Este enfoque, a menudo denominado SHAP (SHapley Additive exPlanations), proporciona un marco unificado para la importancia de características que es tanto teóricamente fundamentado como prácticamente aplicable. La complejidad computacional de calcular valores de Shapley exactos crece exponencialmente con el número de características, lo que ha llevado al desarrollo de diversos métodos de aproximación.
Definición y Fórmula
Formalmente, considere un juego cooperativo con un conjunto de jugadores \( N \) y una función de valor \( v \) que asigna un número real a cada subconjunto (coalición) \( S \subseteq N \). El valor de Shapley para el jugador \( i \) se define como:
\[ \phi_i(v) = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (n - |S| - 1)!}{n!} (v(S \cup \{i\}) - v(S)) \]
donde \( n = |N| \). Esta fórmula puede interpretarse como la contribución marginal promedio del jugador \( i \) en todos los órdenes posibles en los que se puede formar la coalición. Una formulación equivalente suma sobre todas las \( n! \) permutaciones de jugadores, donde \( P_i^R \) es el conjunto de jugadores que preceden a \( i \) en el orden \( R \):
\[ \phi_i(v) = \frac{1}{n!} \sum_R \left[ v(P_i^R \cup \{i\}) - v(P_i^R) \right] \]
La función de valor \( v(S) \) representa el pago total que la coalición \( S \) puede lograr cooperando. El valor de Shapley distribuye el valor total \( v(N) \) entre todos los jugadores, asegurando que cada jugador reciba su contribución promedio al resultado general.
Propiedades
El valor de Shapley es el único concepto de solución que satisface los siguientes cuatro axiomas, considerados esenciales para una distribución justa:
- Eficiencia: La suma de todos los valores de Shapley es igual al valor total de la gran coalición, \( \sum_{i \in N} \phi_i(v) = v(N) \). Esto asegura que todo el pago se distribuya.
- Simetría: Si dos jugadores \( i \) y \( j \) contribuyen igualmente a todas las coaliciones (es decir, \( v(S \cup \{i\}) = v(S \cup \{j\}) \) para todo \( S \subseteq N \setminus \{i,j\} \)), entonces reciben el mismo valor de Shapley. Esto garantiza equidad entre contribuyentes idénticos.
- Aditividad: Para cualquier par de juegos \( v \) y \( w \), el valor de Shapley del juego combinado \( v + w \) es la suma de los valores de Shapley de los juegos individuales, \( \phi_i(v + w) = \phi_i(v) + \phi_i(w) \). Esta propiedad permite la descomposición de juegos complejos.
- Propiedad del jugador ficticio: Si un jugador \( i \) no añade valor a ninguna coalición (es decir, \( v(S \cup \{i\}) = v(S) \) para todo \( S \subseteq N \setminus \{i\} \)), entonces \( \phi_i(v) = 0 \). Esto asegura que los jugadores que no contribuyen no reciban nada.
Estas propiedades hacen del valor de Shapley un método único y fundamentado para asignar crédito o costo entre participantes.
Aplicaciones en Aprendizaje Automático
En el aprendizaje automático, el valor de Shapley se aplica para interpretar predicciones de modelos tratando cada característica como un jugador y la salida del modelo como la función de valor. Para una predicción dada, el valor de Shapley de una característica cuantifica su contribución a la diferencia entre la salida del modelo y la predicción promedio. Este enfoque, conocido como SHAP, fue popularizado por Scott Lundberg y Su-In Lee en 2017. Los valores SHAP proporcionan una medida unificada de importancia de características que es consistente con los axiomas del valor de Shapley, lo que los convierte en una herramienta confiable para la interpretabilidad de modelos.
El uso de valores de Shapley en el aprendizaje automático ha crecido significativamente, particularmente en campos donde comprender las decisiones del modelo es crítico, como finanzas, atención médica y sistemas autónomos. Por ejemplo, en la calificación crediticia, los valores SHAP pueden revelar qué factores influyen más en una decisión de aprobación de préstamo, ayudando en el cumplimiento regulatorio y auditorías de equidad. En el diagnóstico médico, ayudan a los clínicos a entender por qué un modelo predice una cierta condición, aumentando la confianza en decisiones asistidas por IA.
Desafíos Computacionales
Calcular valores de Shapley exactos requiere evaluar la función de valor para todas las \( 2^n \) coaliciones posibles, lo que es computacionalmente inviable para modelos con muchas características. Para un modelo con \( n \) características, la complejidad es \( O(2^n) \), lo que hace que el cálculo exacto sea impráctico más allá de unas pocas docenas de características. Para abordar esto, se han desarrollado varios métodos de aproximación:
- Muestreo de Monte Carlo: Muestrear aleatoriamente permutaciones de características y promediar las contribuciones marginales, proporcionando una estimación insesgada con una varianza controlable.
- TreeSHAP: Un algoritmo diseñado específicamente para modelos basados en árboles (por ejemplo, bosques aleatorios, boosting de gradiente) que calcula valores de Shapley exactos en tiempo polinomial explotando la estructura de los árboles de decisión.
- KernelSHAP: Un método independiente del modelo que utiliza una regresión lineal ponderada para aproximar valores de Shapley, adecuado para cualquier modelo de caja negra.
- Métodos basados en gradientes: Para redes neuronales, las aproximaciones que utilizan gradientes o mecanismos de atención pueden proporcionar estimaciones rápidas, aunque pueden no satisfacer todos los axiomas de Shapley.
Estas aproximaciones han hecho factible aplicar valores de Shapley a modelos de aprendizaje automático a gran escala, incluyendo redes neuronales profundas y modelos de lenguaje grandes, donde la interpretabilidad es cada vez más importante.
Conceptos Relacionados y Extensiones
El valor de Shapley ha sido extendido y adaptado de diversas maneras para abordar diferentes necesidades. En la teoría de juegos cooperativos, el índice de poder de Shapley-Shubik y el índice de poder de Banzhaf son aplicaciones especializadas para juegos de votación. En el aprendizaje automático, SHAP ha sido extendido para manejar interacciones entre características, proporcionando atribuciones de segundo orden que capturan efectos sinérgicos. Además, el concepto se ha aplicado para explicar el comportamiento de modelos de lenguaje grandes, donde ayuda a identificar qué partes del texto de entrada influyen más en la salida generada.
El valor de Shapley también está relacionado con otros métodos de atribución, como LIME (Local Interpretable Model-agnostic Explanations), pero ofrece garantías teóricas más sólidas debido a su fundamentación axiomática. Mientras que LIME se centra en la fidelidad local, SHAP asegura consistencia y precisión local, lo que lo convierte en una opción preferida en muchas aplicaciones prácticas.
Contexto Histórico
Lloyd Shapley introdujo el concepto en su artículo de 1951 "A Value for n-Person Games", que sentó las bases de la teoría de juegos cooperativos. Su trabajo le valió el Premio Nobel de Ciencias Económicas en 2012, compartido con Alvin Roth, por sus contribuciones a la teoría de asignaciones estables y la práctica del diseño de mercado. El valor de Shapley se ha convertido desde entonces en una piedra angular de la teoría económica, influyendo en campos como la asignación de costos, el reparto de beneficios y el análisis de redes.
En la década de 2010, el auge del aprendizaje automático y la necesidad de interpretabilidad de modelos trajeron el valor de Shapley al primer plano. Los investigadores reconocieron que los axiomas de equidad en juegos cooperativos se alinean con los requisitos para explicar predicciones de modelos, lo que llevó al desarrollo de SHAP y su adopción generalizada. Hoy, el valor de Shapley es una herramienta estándar en el arsenal de científicos de datos e investigadores de IA, uniendo la teoría de juegos y la inteligencia artificial moderna.
Véase También
- Aprendizaje Automático
- Inteligencia Artificial
- Aprendizaje Profundo
- Red Neuronal
- Poda de Modelos
- Aumento de Datos
Referencias
- Shapley, L. S. (1951). "A Value for n-Person Games." En Contributions to the Theory of Games, volumen II.
- Lundberg, S. M., & Lee, S.-I. (2017). "A Unified Approach to Interpreting Model Predictions." Advances in Neural Information Processing Systems.
- Strumbelj, E., & Kononenko, I. (2014). "Explaining Prediction Models and Individual Predictions with Feature Contributions." Knowledge and Information Systems.