SHAP (SHapley Additive exPlanations) é um framework para interpretar a saída de modelos de aprendizado de máquina. Ele atribui a cada característica um valor de importância para uma predição específica, com base em conceitos da teoria dos jogos cooperativos, especificamente o valor de Shapley. O método unifica várias técnicas existentes de atribuição de características sob um único modelo de explicação aditiva, fornecendo uma maneira teoricamente fundamentada de entender como diferentes características de entrada contribuem para a saída de um modelo.
A ideia central por trás do SHAP é decompor uma predição em uma soma de contribuições de cada característica, mais um valor base (a predição média). Essa estrutura aditiva torna as explicações intuitivas: para uma determinada instância, a predição é igual ao valor base mais a soma dos valores SHAP para todas as características. O método satisfaz propriedades desejáveis, como acurácia local (a soma das contribuições é igual à predição), consistência (se um modelo muda de modo que uma característica se torne mais importante, sua atribuição não diminui) e ausência (características sem contribuição recebem atribuição zero).
Origens e Fundamentos Teóricos
O SHAP foi introduzido em um artigo de 2017 por Scott Lundberg e Su-In Lee na Universidade de Washington. O nome significa SHapley Additive exPlanations, referindo-se ao valor de Shapley da teoria dos jogos cooperativos, desenvolvido pelo laureado com o Nobel Lloyd Shapley na década de 1950. O valor de Shapley fornece uma maneira justa de distribuir um pagamento total entre os jogadores em um jogo de coalizão, com base em suas contribuições marginais. No contexto do aprendizado de máquina, os "jogadores" são as características de entrada, e o "pagamento" é a predição do modelo.
O fundamento teórico baseia-se em trabalhos anteriores sobre atribuição de características, incluindo LIME (Local Interpretable Model-agnostic Explanations), DeepLIFT e propagação de relevância em camadas. O SHAP unifica esses métodos ao mostrar que muitos deles são aproximações do valor de Shapley sob diferentes suposições sobre a independência das características. Essa unificação fornece um framework principiado para comparar e melhorar métodos de explicação.
O Modelo de Explicação Aditiva
O SHAP define uma explicação como um método de atribuição de características aditivo, onde o modelo de saída é uma função linear de variáveis binárias que indicam se uma característica está presente ou ausente. Formalmente, para uma predição f(x), a explicação g(z') é definida como:
g(z') = φ0 + Σ φi z'i
onde z' é um vetor de entrada simplificado (com 1 indicando que a característica está presente, 0 ausente), φ0 é o valor base (tipicamente a predição média sobre um conjunto de dados de fundo), e φi são os valores SHAP para cada característica. Essa formulação garante que a explicação seja localmente acurada, ou seja, g(z') aproxima f(x) quando z' corresponde à entrada real.
Os valores SHAP são calculados como os valores de Shapley de uma função de expectativa condicional. Para uma característica i, seu valor SHAP é a média ponderada de sua contribuição marginal sobre todos os subconjuntos possíveis de características, onde a contribuição é a diferença na predição do modelo quando a característica é incluída versus excluída, mantendo outras características em seus valores observados.
Métodos de Computação
Calcular valores SHAP exatos é computacionalmente caro, pois requer avaliar o modelo em todos os 2^M subconjuntos de características, onde M é o número de características. Para lidar com isso, vários algoritmos de aproximação foram desenvolvidos:
- KernelSHAP: Um método agnóstico de modelo que usa regressão linear ponderada para aproximar valores de Shapley. Funciona com qualquer modelo, tratando-o como uma caixa preta, mas pode ser lento para grandes conjuntos de dados.
- TreeSHAP: Um algoritmo eficiente especificamente para modelos baseados em árvores (como florestas aleatórias e gradient boosting). Calcula valores SHAP exatos em tempo polinomial, explorando a estrutura da árvore, tornando-o prático para grandes ensembles.
- DeepSHAP: Uma adaptação para redes neurais profundas, baseada na abordagem de retropropagação do DeepLIFT. Fornece aproximações rápidas, mas pode não ser exato.
- GradientSHAP: Usa gradientes para aproximar valores SHAP para modelos diferenciáveis, oferecendo uma alternativa computacionalmente eficiente.
O TreeSHAP, introduzido em um artigo de acompanhamento de 2018 por Lundberg et al., tornou-se particularmente popular devido ao uso generalizado de modelos de gradient boosting como XGBoost e LightGBM. Ele permite cálculo exato em tempo O(TLD^2), onde T é o número de árvores, L o número de folhas e D a profundidade máxima.
Aplicações na Interpretação de Modelos
O SHAP é amplamente usado tanto para interpretabilidade local quanto global. Para explicações locais, ele responde à pergunta: "Por que o modelo fez essa predição específica para esta instância?" Isso é valioso em domínios como pontuação de crédito, diagnóstico médico e detecção de fraude, onde entender decisões individuais é crítico para confiança e conformidade regulatória.
Para explicações globais, os valores SHAP podem ser agregados em um conjunto de dados para mostrar a importância geral das características. Visualizações comuns incluem:
- Gráficos de resumo: Mostram a distribuição dos valores SHAP para cada característica, revelando como as características afetam as predições em diferentes instâncias.
- Gráficos de dependência: Exibem a relação entre o valor de uma característica e seu valor SHAP, frequentemente revelando padrões não lineares ou interações.
- Gráficos de força: Visualizam predições individuais como forças que empurram a predição para longe do valor base, com características coloridas por sua contribuição.
Essas ferramentas ajudam cientistas de dados a identificar quais características impulsionam o comportamento do modelo, detectar possíveis vieses e validar que os modelos estão alinhados com o conhecimento do domínio.
Relação com Outros Métodos de Explicação
O framework teórico do SHAP conecta-se a várias outras técnicas de interpretabilidade. O LIME, por exemplo, pode ser visto como um caso especial do KernelSHAP com um kernel de ponderação específico. O DeepLIFT e a propagação de relevância em camadas também estão relacionados, embora façam suposições diferentes sobre a independência das características. A unificação fornecida pelo SHAP permite que profissionais entendam as suposições subjacentes a diferentes métodos e escolham os apropriados para seus casos de uso.
Uma distinção chave é entre métodos agnósticos de modelo (como KernelSHAP) e métodos específicos de modelo (como TreeSHAP). Métodos agnósticos tratam o modelo como uma caixa preta e podem ser aplicados a qualquer função preditiva, enquanto métodos específicos exploram a estrutura interna para eficiência e acurácia. O SHAP suporta ambos os paradigmas, tornando-o versátil em diferentes tipos de modelo.
Limitações e Críticas
Apesar de sua popularidade, o SHAP tem várias limitações. O cálculo dos valores de Shapley assume independência das características ao estimar expectativas condicionais, o que pode levar a contrafactuais irreais quando as características são correlacionadas. Por exemplo, se duas características são altamente correlacionadas, o SHAP pode atribuir importância a uma enquanto ignora a outra, mesmo que ambas sejam essenciais na prática.
Outra questão é o custo computacional para modelos e conjuntos de dados grandes. Enquanto o TreeSHAP é eficiente, o KernelSHAP pode ser proibitivamente lento para modelos com muitas características ou grandes conjuntos de dados de fundo. Métodos de aproximação introduzem variância, e os resultados podem ser sensíveis à escolha dos dados de fundo.
Críticos também notam que os valores SHAP fornecem atribuição, mas não explicações causais. Eles descrevem como as características se correlacionam com as predições, não o que aconteceria se uma característica fosse alterada. Essa distinção é importante em aplicações de alto risco onde a compreensão causal é necessária.
Implementações de Software
Várias bibliotecas de software implementam o SHAP. A principal é o pacote Python shap, desenvolvido por Lundberg e mantido pela comunidade de código aberto. Ele suporta integração com frameworks populares de aprendizado de máquina, incluindo scikit-learn, XGBoost, LightGBM, CatBoost e PyTorch. O pacote fornece funções de visualização para gráficos de resumo, gráficos de dependência e gráficos de força, bem como utilitários para calcular valores SHAP com vários algoritmos.
Outras implementações existem em R (por exemplo, o pacote shapviz) e em plataformas comerciais. Muitos provedores de nuvem, incluindo Amazon Web Services e Google Cloud, oferecem recursos de explicação baseados em SHAP em seus serviços de aprendizado de máquina, tornando o método acessível a um público mais amplo.
Impacto e Direções Futuras
O SHAP tornou-se uma das ferramentas mais amplamente usadas para interpretabilidade de modelos na comunidade de aprendizado de máquina. Seu fundamento teórico e implementações práticas o tornaram uma escolha padrão para explicar tanto modelos tradicionais quanto sistemas de aprendizado profundo. O método é referenciado em milhares de artigos de pesquisa e está integrado em muitos pipelines de produção.
A pesquisa continua em melhorar a eficiência do SHAP, lidar com dependências de características de forma mais precisa e estendê-lo a novos tipos de modelo, como transformadores e modelos de linguagem de grande escala. Trabalhos recentes exploram o uso do SHAP para explicar modelos generativos e para detectar desvio de conceito. À medida que as regulamentações sobre transparência de IA se tornam mais rígidas, métodos como o SHAP provavelmente desempenharão um papel cada vez mais importante em garantir responsabilidade e confiança na tomada de decisão automatizada.