A otimização bayesiana é uma estratégia sequencial baseada em modelos para a otimização global de funções objetivo de caixa-preta cujas avaliações são custosas. É comumente usada quando uma única observação requer um experimento, um cálculo de engenharia, uma simulação numérica ou uma execução de aprendizado de máquina, e quando derivadas não estão disponíveis ou não são confiáveis. A função objetivo não precisa ter uma expressão de forma fechada, e o método constrói um modelo probabilístico da função desconhecida para guiar um processo de amostragem que equilibra exploração e aproveitamento.
O método constrói uma sequência de pontos de avaliação primeiro construindo um modelo substituto probabilístico da função objetivo, frequentemente um processo gaussiano. A distribuição preditiva do modelo fornece tanto um valor esperado quanto uma medida de incerteza em cada ponto candidato. Um critério de amostragem, também chamado de função de aquisição, é calculado a partir dessa distribuição preditiva, e o próximo ponto é escolhido otimizando esse critério. O ponto selecionado é então avaliado, o modelo é atualizado com a nova observação, e o processo se repete. Essa abordagem a torna útil para situações em que cada avaliação é cara ou demorada.
História
Os primeiros trabalhos sobre abordagens bayesianas para otimização global podem ser rastreados até as décadas de 1960 e 1970. Pesquisadores como Harold J. Kushner desenvolveram métodos para localizar extremos de funções ruidosas, e Jonas Mockus contribuiu para a otimização bayesiana para encontrar extremos em ambientes ruidosos. Em 1998, Donald R. Jones, Matthias Schonlau e William J. Welch introduziram o algoritmo de otimização global eficiente (EGO), que combinava um modelo de krigagem, ou processo gaussiano, com o critério de melhoria esperada para otimizar funções dominantes caras. Esse trabalho seminal ajudou a estabelecer o campo e tornou a otimização bayesiana mais amplamente conhecida.
Nas décadas seguintes, a estrutura foi estendida para lidar com observações ruidosas, restrições, avaliações em lote e paralelas, múltiplos objetivos e espaços mistos ou de alta dimensão. Essas extensões permitiram que a abordagem fosse aplicada a uma gama mais ampla de problemas práticos, mas muitas vezes ao custo de maior complexidade algorítmica.
Configuração do Problema
Em um problema padrão de objetivo único, a otimização bayesiana busca um ponto que minimize a função objetivo f(x) sobre um espaço de busca. Sem perda de generalidade, um problema de maximização pode ser reformulado minimizando -f(x). O espaço de busca não é definido principalmente por meio de uma caixa ou domínio contínuo, embora a formulação padrão seja mais diretamente aplicável a problemas contínuos de baixa a moderada complexidade. À medida que a dimensão cresce, o espaço de busca se expande e os pontos de avaliação se tornam mais esparsos, tornando o problema mais difícil.
Os problemas podem ser classificados como sem ruído, onde a avaliação retorna o valor exato da função, ou com ruído, onde as observações incluem (algo que adiciona) algum erro. Aplicações do mundo real frequentemente adicionam complicações adicionais, incluindo restrições desconhecidas, avaliações paralelas ou múltiplos objetivos. Cada variação afeta como o modelo substituto e o critério de amostragem são definidos.
Método Básico
A maioria das implementações de otimização bayesiana segue o procedimento sequencial padrão. Uma execução típica começa com um projeto inicial, por exemplo, um hipercubo latino de preenchimento de espaço ou amostragem aleatória, para obter um conjunto inicial de observações. O algoritmo então avalia a função objetivo nesses pontos. Um modelo substituto é ajustado a esses dados, capturando tanto a tendência prevista quanto a incerteza das previsões.
A função de aquisição, também chamada de critério de preenchimento, é então definida; escolhas comuns incluem melhoria esperada (EI), limite de confiança superior (UCB) e probabilidade de melhoria. O próximo ponto ou lote de pontos é escolhido otimizando a função de aquisição, que equilibra exploração (pontos onde o modelo tem alta incerteza) contra aproveitamento (pontos onde o modelo prevê valores favoráveis). Após a avaliação, o conjunto de dados é atualizado e o processo se repete.
Esse loop continua até que uma regra de parada seja atendida, às vezes baseada em um número fixo de protótipos ou um critério de convergência. A principal vantagem da estratégia bayesiana é sua eficiência de amostragem, o que significa que ela busca encontrar uma boa solução com o menor número possível de avaliações de função.
Modelos Probabilísticos
A especificação do modelo probabilístico é central para a metodologia. Um modelo de regressão da função objetivo é necessário para fornecer previsões e estimativas de incerteza em todo o espaço de busca. A escolha mais comum e o padrão de fato é a regressão por processo gaussiano (GPR). Um prior de GP define uma função contínua onde qualquer conjunto de pontos é conjuntamente gaussiano, e o posterior é calculado exatamente quando as observações são contínuas. A GPR é flexível e fornece a incerteza analítica que é essencial para definir a maioria das funções de aquisição.
Outros tipos de modelo incluem florestas aleatórias, redes neurais e aprendizado profundo, especialmente quando o espaço de busca é de alta dimensão ou inclui variáveis mistas. Desenvolvimentos recentes também incorporam proxies de aprendizado profundo ou ensembles para lidar com estruturas de custo alternativas. O modelo é chamado de modelo substituto porque ele substitui a função objetivo cara ao selecionar os pontos candidatos. A qualidade das estimativas de incerteza, em vez de apenas a previsão, está diretamente relacionada ao risco potencial da função de aquisição.
Extensões e Aplicações
A otimização bayesiana tornou-se uma ferramenta padrão na otimização de hiperparâmetros para aprendizado de máquina, onde cada tentativa requer treinar e validar um modelo. O custo de tal tentativa pode variar de minutos a dias, e o número de hiperparâmetros pode ser pequeno, mas as avaliações são ruidosas devido à aleatoriedade. Métodos para avaliações ruidosas foram especialmente desenvolvidos para lidar com isso.
No projeto de engenharia, a função objetivo frequentemente envolve simulações numéricas caras, como análises de elementos finitos ou usos de dinâmica de fluidos computacional, onde uma única execução pode levar horas. A otimização bayesiana é usada para encontrar parâmetros de projeto que minimizem custo ou maximizem desempenho, respeitando restrições. O método também tem aplicações no projeto experimental para química, física e descoberta de medicamentos, onde testes físicos são caros.
Variantes paralelas e em lote são usadas para aproveitar capacidades modernas, como clusters de GPU e provedores de nuvem como Amazon Web Services ou Google Cloud, avaliando múltiplos pontos. Para computação de alto desempenho, organizações como Nvidia e Intel investiram em ferramentas que a integram a fluxos de trabalho mais amplos. A otimização bayesiana também é uma área de pesquisa ativa com avanços algorítmicos contínuos.
Apesar de seus pontos fortes, ela também é limitada em seu uso para problemas de dimensão muito alta e em seu desempenho em funções complexas e não estacionárias. Essas limitações, no entanto, são desconhecidas na literatura de pesquisa atual, e muitas extensões estão sendo desenvolvidas para lidar com essas configurações.