Propagação de expectativas (EP) é uma técnica em aprendizado de máquina bayesiano usada para aproximar distribuições de probabilidade que são computacionalmente intratáveis de lidar exatamente. Foi introduzida por Thomas Minka em um artigo de 2001 apresentado na 17ª Conferência sobre Incerteza em Inteligência Artificial. O método é projetado para encontrar uma aproximação tratável para uma distribuição alvo complexa, explorando a estrutura de fatoração dessa distribuição, tornando-o útil em vários problemas de inferência em aprendizado de máquina e campos relacionados.
A ideia central da EP é aproximar uma distribuição intratável \(p(\mathbf{x})\) com uma distribuição mais simples e tratável \(q(\mathbf{x})\). Isso é alcançado minimizando a divergência de Kullback-Leibler \(\mathrm{KL}(p||q)\), uma medida de como uma distribuição de probabilidade diverge de uma segunda. Essa escolha de direção da divergência é uma distinção chave em relação aos métodos variacionais bayesianos, que em vez disso minimizam \(\mathrm{KL}(q||p)\). A consequência prática é que a EP tende a focar em corresponder à forma geral da distribuição alvo, incluindo seus momentos, em vez de evitar regiões onde o alvo é pequeno.
Quando a distribuição aproximadora \(q(\mathbf{x})\) é escolhida como uma Gaussiana \(\mathcal{N}(\mathbf{x}|\mu, \Sigma)\), minimizar \(\mathrm{KL}(p||q)\) leva a uma solução de forma fechada: os \(\mu\) e \(\Sigma\) ótimos são simplesmente a média e a covariância da distribuição alvo \(p(\mathbf{x})\). Essa operação, conhecida como correspondência de momentos, é central para o algoritmo EP. Na prática, a EP atualiza iterativamente fatores individuais da aproximação, refinando os momentos até a convergência, o que permite lidar com modelos fatorados complexos.
Estrutura Algorítmica
O algoritmo EP opera mantendo uma aproximação para cada fator da distribuição alvo. Inicialmente, essas aproximações de fator são definidas em formas simples, frequentemente uniformes ou Gaussianas. O algoritmo então itera através de cada fator, removendo-o da aproximação atual, calculando uma distribuição de cavidade e, em seguida, projetando a distribuição inclinada resultante de volta na família tratável via correspondência de momentos. Esse processo é repetido até que as aproximações se estabilizem, produzindo uma \(q(\mathbf{x})\) final que aproxima o alvo completo.
Uma força notável da EP é sua capacidade de lidar com fatores não Gaussianos, como funções indicadoras, que são comuns em modelos envolvendo restrições ou resultados discretos. A etapa de correspondência de momentos garante que a aproximação capture as estatísticas essenciais desses fatores, mesmo quando a inferência exata é impossível. Essa flexibilidade tornou a EP uma escolha popular para inferência aproximada em modelos gráficos probabilísticos e outras tarefas de predição estruturada.
Aplicações
Uma aplicação proeminente da EP está na derivação de equações de passagem de mensagens para o TrueSkill, um sistema de ranqueamento desenvolvido pela Microsoft Research para jogos online. O TrueSkill modela a habilidade do jogador como uma distribuição Gaussiana e atualiza essas estimativas com base nos resultados das partidas. As funções indicadoras que surgem de eventos de vitória-derrota são intratáveis de lidar diretamente, mas a EP fornece uma maneira eficiente de aproximá-las, permitindo estimativa de habilidade e matchmaking em tempo real.
Além do TrueSkill, a EP foi aplicada em áreas como treinamento de redes neurais, onde pode ser usada para inferência bayesiana sobre pesos, e em contextos de modelos de linguagem de grande escala para quantificação de incerteza. Sua capacidade de fornecer estimativas de incerteza calibradas a tornou relevante em campos como inteligência artificial e aprendizado profundo, onde interpretações probabilísticas de modelos são cada vez mais valorizadas.
Comparação com Outros Métodos
A EP difere fundamentalmente dos métodos variacionais bayesianos na direção da divergência de Kullback-Leibler minimizada. Métodos variacionais, que minimizam \(\mathrm{KL}(q||p)\), tendem a produzir aproximações mais conservadoras, frequentemente subestimando a variância do alvo. Em contraste, o uso de \(\mathrm{KL}(p||q)\) pela EP pode levar a aproximações que capturam melhor a variância do alvo, embora possa ser menos estável em alguns casos.
Outra abordagem relacionada é a cadeia de Markov Monte Carlo (MCMC), que fornece amostras assintoticamente exatas, mas pode ser computacionalmente cara. A EP oferece uma alternativa determinística que é frequentemente mais rápida, ao custo de introduzir erro de aproximação. Esse trade-off torna a EP particularmente atraente em problemas de grande escala onde a amostragem é impraticável.
Limitações e Extensões
A EP não é garantida de convergir para todos os modelos, e seu desempenho pode depender da inicialização das aproximações de fator. Em alguns cenários, as atualizações de correspondência de momentos podem oscilar ou divergir, exigindo amortecimento ou outras técnicas de estabilização. Pesquisadores desenvolveram variantes, como propagação de expectativas com amortecimento e EP fracionária, para abordar esses problemas.
Apesar desses desafios, a EP permanece uma ferramenta amplamente usada no arsenal de inferência bayesiana. Seus fundamentos teóricos, estabelecidos no trabalho original de Minka, inspiraram inúmeras extensões e aplicações, desde visão computacional até aprendizado por reforço. A capacidade do método de equilibrar precisão e eficiência computacional continua a torná-lo um assunto de pesquisa ativa no laboratório de IA de Stanford e em outras instituições líderes.
Veja Também
- variational-inference|inferência variacional
- inferência bayesiana
- moment-matching|correspondência de momentos
- trueskill|TrueSkill