Modelos de Gargalo de Conceito (CBMs, do inglês Concept Bottleneck Models) são uma classe de arquiteturas de redes neurais projetadas para fazer previsões em um processo de duas etapas, com uma camada intermediária explícita e interpretável por humanos de conceitos. Em vez de mapear entradas brutas diretamente para saídas, um CBM primeiro prevê um conjunto de atributos predefinidos e semanticamente significativos (os conceitos) e, em seguida, usa esses conceitos previstos para tomar a decisão final. Esse design permite que humanos inspecionem, compreendam e até intervenham no raciocínio interno do modelo, abordando uma limitação fundamental dos modelos de caixa-preta padrão em aprendizado de máquina e aprendizado profundo.
A abordagem de gargalo de conceito foi formalmente introduzida em um artigo de 2020 por Pang Wei Koh, Thao Nguyen, Yew Siang Tang, Stephen Mussmann, Brandon Ying e Percy Liang, afiliados ao Stanford University e à Universidade de Toronto. O artigo, intitulado "Concept Bottleneck Models", demonstrou que, ao forçar o modelo a prever conceitos interpretáveis antes da saída final, era possível alcançar precisão competitiva enquanto se ganhava a capacidade de depurar e controlar o comportamento do modelo. Esse trabalho baseou-se em ideias anteriores de representações interpretáveis e desembaraçadas, mas forneceu uma arquitetura concreta e treinável que desde então influenciou um amplo corpo de pesquisa.
Arquitetura e Treinamento
Um Modelo de Gargalo de Conceito consiste em três componentes principais: um codificador de entrada, um preditor de conceitos e um preditor de tarefa. O codificador de entrada processa os dados brutos (por exemplo, uma imagem, uma sequência de texto ou um registro tabular) em uma representação de características. O preditor de conceitos então mapeia essa representação para um vetor de pontuações de conceitos, uma para cada conceito predefinido. Finalmente, o preditor de tarefa usa essas pontuações de conceitos (e opcionalmente as características originais) como entrada para produzir a saída final, como um rótulo de classe ou um valor de regressão.
O treinamento de um CBM tipicamente segue um de três paradigmas: treinamento independente, treinamento sequencial e treinamento conjunto. No treinamento independente, o preditor de conceitos é primeiro treinado para prever rótulos de conceitos verdadeiros e, em seguida, o preditor de tarefa é treinado nos conceitos previstos (ou nos conceitos verdadeiros, com o preditor de conceitos congelado). O treinamento sequencial treina o preditor de conceitos primeiro e depois o preditor de tarefa, mantendo o preditor de conceitos fixo, mas usa os conceitos previstos durante o treinamento da tarefa. O treinamento conjunto otimiza ambos os componentes simultaneamente, frequentemente com uma perda ponderada que combina o erro de previsão de conceitos e o erro de previsão de tarefa. O treinamento conjunto geralmente produz a melhor precisão de tarefa, mas pode sacrificar a precisão de conceitos. Uma variante comum é o treinamento "ciente de intervenção", onde o modelo é treinado para ser robusto a correções humanas das previsões de conceitos, permitindo que usuários corrijam erros no momento do teste.
Interpretabilidade e Intervenção
A principal motivação para CBMs é a interpretabilidade. Ao restringir o modelo a raciocinar por meio de conceitos compreensíveis por humanos, os usuários podem ver quais conceitos o modelo acredita estarem presentes e como esses conceitos influenciam a previsão final. Por exemplo, em uma tarefa de classificação de pássaros, um CBM pode prever conceitos como "tem barriga amarela", "tem asas pontiagudas" e "tem cauda longa", e então usá-los para classificar a espécie. Essa transparência permite que especialistas de domínio verifiquem se o modelo está usando características sensatas em vez de correlações espúrias.
Uma característica distintiva dos CBMs é a capacidade de intervir. Se um usuário sabe que a previsão de conceito do modelo está errada (por exemplo, ele falhou em detectar uma barriga amarela), ele pode corrigir manualmente esse valor de conceito, e o preditor de tarefa produzirá uma nova saída com base no conceito corrigido. Essa capacidade de humano-no-circuito é valiosa em domínios de alto risco, como medicina ou finanças, onde um erro do modelo pode ser corrigido antes que uma decisão final seja tomada. Pesquisas mostraram que mesmo um pequeno número de intervenções pode melhorar significativamente a precisão, especialmente quando o preditor de conceitos é imperfeito.
Aplicações
CBMs foram aplicados em vários domínios. Em imagem médica, eles têm sido usados para diagnóstico de radiografias de tórax, onde os conceitos correspondem a patologias visíveis como "cardiomegalia" ou "derrame". Em dermatologia, CBMs podem prever atributos de lesões de pele antes de classificar malignidade. Em direção autônoma, conceitos como "pedestre presente" ou "cor do semáforo" podem ser usados para tomar decisões de direção, embora isso seja menos comum do que em tarefas de percepção. Em processamento de linguagem natural, CBMs foram aplicados à análise de sentimentos e detecção de toxicidade, com conceitos como "contém profanidade" ou "expressa raiva". Em dados tabulares, CBMs foram usados para pontuação de crédito, onde conceitos como "nível de renda" e "histórico de pagamentos" são interpretáveis.
Variantes e Extensões
Várias variantes de CBMs foram propostas para abordar limitações. CBMs sem rótulos (introduzidos em 2022 por Tu, Ma e outros) removem a necessidade de anotações manuais de conceitos usando um grande modelo pré-treinado (por exemplo, um modelo de linguagem grande ou um modelo de visão-linguagem) para gerar automaticamente rótulos de conceitos a partir de descrições de classes. Isso reduz o fardo de anotação, que é um gargalo importante para aplicar CBMs a novas tarefas. Outra variante, o Modelo de Incorporação de Conceitos, projeta conceitos em um espaço de incorporação contínuo em vez de usar rótulos binários ou categóricos, permitindo representações de conceitos mais ricas. CBMs post-hoc tentam extrair um gargalo de conceito de um modelo de caixa-preta já treinado, usando técnicas de sondagem ou agrupamento para identificar dimensões interpretáveis.
Outras extensões incluem CBMs probabilísticos, que modelam a incerteza dos conceitos, e CBMs interativos, que permitem que usuários consultem o modelo sobre quais conceitos são mais influentes. Alguns trabalhos integraram CBMs com arquiteturas transformer, usando mecanismos de atenção para alinhar conceitos com regiões de entrada.
Limitações e Desafios
Apesar de seus benefícios, os CBMs enfrentam vários desafios. O mais significativo é a exigência de anotações de conceitos, que são caras e frequentemente subjetivas. Definir um conjunto completo e não sobreposto de conceitos para uma tarefa é difícil, e conceitos ausentes podem levar à perda de informação e à redução da precisão. CBMs também tendem a ter desempenho inferior em comparação com modelos de caixa-preta padrão em tarefas complexas, pois o gargalo de conceito restringe o fluxo de informações. O trade-off entre interpretabilidade e precisão é uma questão central de pesquisa.
Outro problema é o vazamento de conceitos: o preditor de tarefa pode aprender a usar previsões de conceitos de maneiras não intencionais, ou o preditor de conceitos pode codificar informações além dos conceitos declarados (por exemplo, por meio de características correlacionadas). Isso pode tornar o modelo menos interpretável do que o pretendido. Além disso, intervenções humanas só são eficazes se o preditor de tarefa for robusto a correções de conceitos; caso contrário, corrigir um conceito pode não mudar a saída como esperado.
Relação com Outros Métodos de Interpretabilidade
CBMs fazem parte de uma família mais ampla de técnicas de aprendizado de máquina interpretável. Eles são frequentemente contrastados com métodos de explicação post-hoc, como mapas de saliência ou atribuição baseada em gradientes, que tentam explicar um modelo de caixa-preta após o treinamento. CBMs são inerentemente interpretáveis por design, o que geralmente é preferido para decisões de alto risco. Eles também estão relacionados a explicações baseadas em conceitos, como Teste com Vetores de Ativação de Conceito (TCAV), que usam derivadas direcionais para medir a influência de conceitos, mas o TCAV não restringe a arquitetura do modelo. CBMs são às vezes comparados a árvores de decisão e modelos baseados em regras, que também são inerentemente interpretáveis, mas menos flexíveis.
Pesquisa Atual e Direções Futuras
A pesquisa sobre CBMs continua a evoluir. Trabalhos recentes focaram em escalar CBMs para conjuntos de dados de grande escala e integrá-los com modelos de fundação. Por exemplo, usar incorporações no estilo CLIP para definir conceitos em um espaço contínuo mostrou-se promissor. Outra direção é o uso de CBMs em aprendizado por reforço e robótica, onde representações intermediárias interpretáveis podem ajudar com segurança e depuração. Há também interesse em usar CBMs para justiça e mitigação de viés, pois gargalos de conceitos permitem que auditores verifiquem se atributos protegidos estão sendo usados.
Em 2025, CBMs permanecem uma área ativa de pesquisa, com artigos aparecendo em grandes conferências como NeurIPS, ICML e ICLR. O trade-off entre interpretabilidade e desempenho ainda não está totalmente resolvido, mas o campo está se movendo em direção a modelos baseados em conceitos mais flexíveis e escaláveis, incluindo aqueles que aprendem conceitos dinamicamente em vez de depender de conjuntos fixos definidos por humanos.