Explicações Contrafactuais

Conceito e Formalização

Uma explicação contrafactual para uma dada entrada x e previsão f(x) é uma nova entrada x' tal que f(x') seja igual ao resultado desejado (por exemplo, aprovação em vez de negação). A mudança de x para x' é tipicamente medida por uma métrica de distância (por exemplo, norma L1, L2 ou L0) para garantir minimalidade. Formalmente, busca-se minimizar a distância d(x, x') sujeita a f(x') = y', onde y' é o rótulo alvo.

A noção de minimalidade é subjetiva; diferentes funções de distância produzem diferentes contrafactuais. Para dados tabulares, pode-se usar a distância L1 para promover esparsidade (alterando poucos atributos), enquanto para imagens, pode-se usar similaridade perceptual. Restrições podem ser adicionadas: atributos podem ter valores imutáveis (por exemplo, idade) ou ser categóricos. Além disso, o contrafactual deve ser viável e plausível - isto é, as mudanças sugeridas devem ser realisticamente alcançáveis pelo usuário (por exemplo, aumentar a renda é plausível; mudar o estado civil pode não ser).

Algoritmos e Abordagens

Vários algoritmos geram explicações contrafactuais. Métodos iniciais usaram otimização baseada em gradiente: para modelos diferenciáveis (por exemplo, redes neurais), pode-se minimizar uma função de perda que equilibra a previsão alvo e o termo de distância. Implementações específicas incluem:

• Wachter et al. (2017): Uma abordagem de descida de gradiente que encontra contrafactuais para modelos diferenciáveis, otimizando uma função de custo com dois termos: perda de previsão e distância.
• Growing Spheres (Laugel et al., 2017): Para modelos não diferenciáveis, este método busca o ponto de fronteira mais próximo, expandindo iterativamente uma esfera ao redor da entrada até que a previsão mude.
• DiCE (Mothilal et al., 2020): Gera um conjunto diverso de contrafactuais para dar opções aos usuários, usando um autoencoder aprendido ou busca agnóstica de modelo.
• Métodos baseados em árvores: Para florestas aleatórias ou boosting de gradiente, pode-se percorrer os caminhos de decisão para encontrar vizinhos mais próximos no espaço das folhas.

Métodos agnósticos de modelo tratam o modelo como uma caixa-preta e dependem de amostragem ou técnicas de otimização, tornando-os aplicáveis a qualquer classificador. No entanto, podem ser computacionalmente caros para entradas de alta dimensão, como imagens.

Aplicações em Crédito e Finanças

O setor financeiro é uma arena importante para explicações contrafactuais. Quando um pedido de empréstimo ou cartão de crédito é rejeitado por um sistema automatizado, regulamentações como o Equal Credit Opportunity Act (ECOA) nos Estados Unidos exigem que os credores forneçam razões. As explicações contrafactuais vão além, sugerindo o que o solicitante poderia mudar: "Se você reduzisse sua dívida em R$ 2.000, seu pedido seria aprovado." Isso capacita os consumidores com recomendações acionáveis.

Bancos e fintechs começaram a integrar ferramentas contrafactuais em seus pipelines de decisão. Por exemplo, um modelo treinado com árvores de gradiente boosting pode ser combinado com um gerador contrafactual para produzir explicações para cada negação. O desafio é equilibrar viabilidade: sugerir um aumento de renda pode não ser acionável, então os sistemas devem destacar atributos sob controle do usuário (por exemplo, padrões de gastos, histórico da conta).

Aplicações em Saúde e Medicina

Na área da saúde, explicações contrafactuais ajudam clínicos a entender por que um modelo diagnóstico fez uma determinada previsão. Por exemplo, uma rede neural que prevê readmissão hospitalar pode oferecer: "Se a pressão arterial do paciente fosse 10 mmHg mais baixa, o risco de readmissão cairia de alto para baixo." Isso auxilia no planejamento do tratamento, como detalhado em um artigo de 2020 na Artificial Intelligence in Medicine.

No entanto, contrafactuais médicos exigem cuidado com relações causais. Alterar um biomarcador como pressão arterial pode estar correlacionado com outros fatores não observados. Pesquisadores de instituições como o Stanford AI Lab e o MIT CSAIL exploraram contrafactuais causais que incorporam conhecimento médico para evitar sugerir mudanças impossíveis ou eticamente problemáticas.

Contrafactuais em Modelos de Imagem e Texto

Para modelos de aprendizado profundo em imagens, explicações contrafactuais envolvem perturbar pixels para mudar a previsão. Por exemplo, uma imagem de um cachorro pode ser alterada adicionando um pequeno padrão para fazer o modelo classificá-la como gato. Diferentemente de exemplos adversariais, que buscam mudanças imperceptíveis, contrafactuais visam alterações significativas que um humano reconheceria como plausíveis. Técnicas como Generative Adversarial Networks (GANs) ou autoencoders podem gerar contrafactuais manipulando códigos latentes.

No processamento de linguagem natural, explicações contrafactuais para análise de sentimento podem mudar "O filme foi chato" para "O filme foi emocionante" para inverter o sentimento de negativo para positivo. Isso é feito editando palavras ou frases enquanto se preserva a gramática. Modelos baseados em transformers, como os Large language models, podem ser usados para gerar texto contrafactual, mas garantir fluência e minimalidade continua sendo um desafio.

Relação com Causalidade e Justiça

Explicações contrafactuais estão intimamente relacionadas ao raciocínio causal. Um contrafactual verdadeiro deve refletir a estrutura causal dos dados: mudar um atributo pode ter efeitos colaterais (por exemplo, aumentar a educação pode alterar a renda). Os modelos causais estruturais de Pearl fornecem uma estrutura formal, mas muitas vezes não estão disponíveis na prática. A maioria dos métodos assume independência entre atributos, o que pode levar a sugestões inviáveis ou inconsistentes com a realidade.

Na pesquisa sobre justiça, a justiça contrafactual é um critério que exige que a previsão seja a mesma tanto no mundo real quanto em um mundo contrafactual onde um atributo sensível (por exemplo, raça, gênero) é alterado. Esta noção, proposta por Kusner et al. (2017), usa explicações contrafactuais não para explicar, mas para auditar modelos quanto a viés. Por exemplo, se mudar o sexo de uma pessoa alterasse sua decisão de crédito, o modelo seria considerado injusto sob esta definição.

Relação com Outros Métodos de Explicabilidade

Explicações contrafactuais complementam outras técnicas de XAI. SHAP e LIME fornecem atribuições locais de características, indicando quais atributos foram mais importantes para uma previsão, mas não dizem ao usuário como mudar o resultado. Contrafactuais oferecem sugestões diretas. Eles também compartilham semelhanças com exemplos adversariais - ambos buscam perturbações mínimas - mas contrafactuais visam uma classe alvo específica, enquanto perturbações adversariais buscam qualquer classificação errada e muitas vezes são imperceptíveis.

No contexto da causalidade, contrafactuais diferem de intervenções: uma intervenção muda um atributo mantendo outros constantes (como um experimento randomizado), enquanto um contrafactual imagina um estado hipotético sob a mesma estrutura causal. Esta distinção é crucial para aplicações sociais, como observado por pesquisadores como Joshua Tenenbaum e Brendan Lake no MIT, que estudam física intuitiva e raciocínio causal.

Desafios e Limitações

Um desafio chave é garantir que o contrafactual seja realista e acionável. Para dados tabulares, alguns atributos podem ter valores imutáveis (por exemplo, idade, etnia), mas muitos métodos ignoram isso. Atributos discretos, como categoria de emprego, exigem tratamento especial porque distâncias contínuas não são apropriadas. Além disso, contrafactuais podem ser instáveis: pequenas mudanças na entrada ou no modelo podem levar a sugestões drasticamente diferentes, reduzindo a confiança do usuário.

A complexidade de encontrar um contrafactual ótimo cresce com a dimensionalidade dos atributos. Para dados de alta dimensão, como imagens, o espaço de busca é vasto, e a otimização ingênua pode produzir perturbações imperceptíveis, mas irrealistas. Adicionalmente, muitos métodos assumem que o modelo é diferenciável, o que nem sempre é o caso para ensembles de árvores ou pipelines não diferenciáveis.

Há também uma lacuna semântica: um contrafactual matematicamente mínimo pode não ser humanamente interpretável. Por exemplo, mudar um atributo em 0,3 unidades pode ser abstrato. Portanto, pesquisadores focam em gerar contrafactuais que sejam próximos em um sentido perceptual humano, usando conhecimento de domínio ou estudos com usuários.

Direções Futuras

A pesquisa está se movendo em direção à geração de explicações contrafactuais em ambientes interativos, onde os usuários podem iterar sobre as sugestões. Em sistemas de Artificial intelligence, há interesse crescente em fornecer explicações contrastivas que comparam a previsão real com uma alternativa, o que pode melhorar a confiança. A integração de modelos causais visa produzir contrafactuais mais robustos que respeitem dependências entre atributos.

Com o avanço dos Large language models, há potencial para gerar explicações contrafactuais em linguagem natural diretamente do raciocínio do modelo. No entanto, garantir fidelidade continua sendo um problema em aberto. No início dos anos 2020, nenhum método domina; a escolha depende do tipo de dados, da família de modelos e das necessidades do usuário.

Considerações Práticas para Implementação

Ao implantar sistemas contrafactuais, profissionais devem abordar:

• Escalabilidade: Gerar contrafactuais para milhões de usuários em tempo real requer algoritmos eficientes. Métodos como otimização baseada em gradiente em GPUs podem ser rápidos, mas abordagens de caixa-preta podem ser mais lentas.
• Interface do usuário: Explicações devem ser apresentadas em um formato compreensível, muitas vezes como "Se você mudar X de A para B, seu resultado mudaria de P para Q."
• Agnosticismo de modelo: Alguns reguladores exigem explicações independentemente do tipo de modelo, então estruturas implantáveis devem funcionar com qualquer modelo preditivo, seja uma rede neural ou um sistema baseado em regras.

Empresas como Google DeepMind e OpenAI financiaram pesquisas sobre geração contrafactual robusta, mas ferramentas de produção ainda são nascentes. Em 2023, o conceito continua evoluindo, com pesquisa ativa em contrafactuais causais e cenários multiagente.

Direções Futuras

À medida que os sistemas de IA se tornam mais integrados em decisões consequenciais, a demanda por explicações contrafactuais crescerá. Desenvolvimentos futuros podem incluir:

• Integração com Large language models para gerar narrativas contrafactuais a partir de dados brutos.
• Explicações personalizadas que se adaptam ao conhecimento de domínio e preferências do usuário.
• Geração contrafactual sob incerteza, onde múltiplos mundos possíveis são considerados.
• Vincular contrafactuais a recomendações acionáveis por meio de descoberta causal.

Pesquisadores de instituições como Carnegie Mellon University e BAIR (Berkeley AI Research) estão ativamente trabalhando nessas áreas.

Conclusão

Explicações contrafactuais são uma ferramenta poderosa para tornar modelos de aprendizado de máquina transparentes e acionáveis. Ao fazer perguntas do tipo "e se", elas transformam previsões opacas em passos concretos para os usuários. Sua importância é sublinhada por pressões regulatórias por IA explicável e práticas éticas de IA. À medida que os modelos se tornam mais complexos, a necessidade de interpretabilidade contrafactual só aumentará, impulsionando mais inovação em geração eficiente e validação.