L'optimisation bayésienne est une stratégie séquentielle basée sur un modèle pour l'optimisation globale de fonctions objectif en boîte noire dont les évaluations sont coûteuses. Elle est couramment utilisée lorsqu'une seule observation nécessite une expérience, un calcul d'ingénierie, une simulation numérique ou une exécution d'apprentissage automatique, et lorsque les dérivées sont indisponibles ou peu fiables. La fonction objectif n'a pas besoin d'avoir une expression analytique, et la méthode construit un modèle probabiliste de la fonction inconnue pour guider un processus d'échantillonnage qui équilibre exploration et exploitation.
La méthode construit une séquence de points d'évaluation en construisant d'abord un modèle de substitution probabiliste de l'objectif, souvent un processus gaussien. La distribution prédictive du modèle fournit à la fois une valeur attendue et une mesure de l'incertitude à chaque point candidat. Un critère d'échantillonnage, également appelé fonction d'acquisition, est calculé à partir de cette distribution prédictive, et le point suivant est choisi en optimisant ce critère. Le point sélectionné est ensuite évalué, le modèle est mis à jour avec la nouvelle observation, et le processus se répète. Cette approche la rend utile pour les contextes où chaque évaluation est coûteuse ou chronophage.
Historique
Les premiers travaux sur les approches bayésiennes de l'optimisation globale remontent aux années 1960 et 1970. Des chercheurs tels que Harold J. Kushner ont développé des méthodes pour localiser les extrema de fonctions bruitées, et Jonas Mockus a contribué à l'optimisation bayésienne pour trouver des extrema dans des contextes bruités. En 1998, Donald R. Jones, Matthias Schonlau et William J. Welch ont introduit l'algorithme d'optimisation globale efficace (EGO), qui combinait un modèle de krigeage, ou processus gaussien, avec le critère d'amélioration espérée pour optimiser des fonctions dominantes coûteuses. Ce travail fondateur a contribué à établir le domaine et a rendu l'optimisation bayésienne plus largement connue.
Au cours des décennies suivantes, le cadre a été étendu pour traiter les observations bruitées, les contraintes, les évaluations par lots et en parallèle, les objectifs multiples, ainsi que les espaces mixtes ou de haute dimension. Ces extensions ont permis d'appliquer l'approche à une gamme plus large de problèmes pratiques, mais souvent au prix d'une complexité algorithmique accrue.
Cadre du Problème
Dans un problème standard à objectif unique, l'optimisation bayésienne cherche un point qui minimise la fonction objectif f(x) sur un espace de recherche. Sans perte de généralité, un problème de maximisation peut être reformulé en minimisant -f(x). L'espace de recherche n'est pas défini principalement par une boîte ou un domaine continu, bien que la formulation standard soit plus directement applicable aux problèmes continus de complexité faible à modérée. À mesure que la dimension augmente, l'espace de recherche s'étend et les points d'évaluation deviennent plus épars, ce qui rend le problème plus difficile.
Les problèmes peuvent être classés comme sans bruit, où l'évaluation renvoie la valeur exacte de la fonction, ou avec bruit, où les observations incluent une certaine erreur. Les applications réelles ajoutent souvent des complications supplémentaires, notamment des contraintes inconnues, des évaluations parallèles ou des objectifs multiples. Chaque variation affecte la manière dont le modèle de substitution et le critère d'échantillonnage sont définis.
Méthode de Base
La plupart des implémentations de l'optimisation bayésienne suivent la procédure séquentielle standard. Une exécution typique commence par un plan initial, par exemple un hypercube latin à remplissage d'espace ou un échantillonnage aléatoire, pour obtenir un ensemble initial d'observations. L'algorithme évalue ensuite l'objectif à ces points. Un modèle de substitution est ajusté à ces données, capturant à la fois la tendance prédite et l'incertitude des prédictions.
La fonction d'acquisition, également appelée critère de remplissage, est ensuite définie ; les choix courants incluent l'amélioration espérée (EI), la borne de confiance supérieure (UCB) et la probabilité d'amélioration. Le point suivant ou le lot de points est choisi en optimisant la fonction d'acquisition, qui équilibre l'exploration (points où le modèle a une incertitude élevée) et l'exploitation (points où le modèle prédit des valeurs favorables). Après l'évaluation, l'ensemble de données est mis à jour et le processus se répète.
Cette boucle se poursuit jusqu'à ce qu'une règle d'arrêt soit satisfaite, parfois basée sur un nombre fixe d'itérations ou un critère de convergence. L'avantage clé de la stratégie bayésienne est son efficacité en termes d'échantillons, ce qui signifie qu'elle cherche à trouver une bonne solution avec aussi peu d'évaluations de fonction que possible.
Modèles Probabilistes
La spécification du modèle probabiliste est centrale à la méthodologie. Un modèle de régression de l'objectif est nécessaire pour fournir des prédictions et des estimations d'incertitude sur l'espace de recherche. Le choix le plus courant et la norme de facto est la régression par processus gaussien (GPR). Un a priori de processus gaussien définit une fonction continue où tout ensemble de points est conjointement gaussien, et le postérieur est calculé exactement lorsque les observations sont continues. La GPR est flexible et fournit l'incertitude analytique essentielle pour définir la plupart des fonctions d'acquisition.
D'autres types de modèles incluent les forêts aléatoires, les réseaux de neurones et l'apprentissage profond, en particulier lorsque l'espace de recherche est de haute dimension ou comprend des variables mixtes. Les développements récents intègrent également des proxies d'apprentissage profond ou des ensembles pour gérer des structures de coûts alternatives. Le modèle est appelé modèle de substitution car il se substitue à la fonction objectif coûteuse lors de la sélection des points candidats. La qualité des estimations d'incertitude, plutôt que seulement la prédiction, est directement liée au risque potentiel de la fonction d'acquisition.
Extensions et Applications
L'optimisation bayésienne est devenue un outil standard dans l'optimisation des hyperparamètres pour apprentissage automatique, où chaque essai nécessite l'entraînement et la validation d'un modèle. Le coût d'un tel essai peut varier de quelques minutes à plusieurs jours, et le nombre d'hyperparamètres peut être faible, mais les évaluations sont bruitées en raison du caractère aléatoire. Des méthodes pour les évaluations bruitées ont été spécialement développées pour gérer cela.
Dans la conception d'ingénierie, l'objectif implique souvent des simulations numériques coûteuses telles que des analyses par éléments finis ou des utilisations de dynamique des fluides computationnelle où une seule exécution peut prendre des heures. L'optimisation bayésienne est utilisée pour trouver des paramètres de conception qui minimisent le coût ou maximisent la performance tout en respectant les contraintes. La méthode a également des applications dans la conception expérimentale pour la chimie, la physique et la découverte de médicaments, où les tests physiques sont coûteux.
Des variantes parallèles et par lots sont utilisées pour tirer parti des capacités modernes, telles que les clusters GPU et les fournisseurs de cloud comme Amazon Web Services ou Google Cloud, en évaluant plusieurs points. Pour le calcul haute performance, des organisations telles que Nvidia et Intel ont investi dans des outils qui l'intègrent dans des flux de travail plus larges. L'optimisation bayésienne est également un domaine de recherche actif avec des avancées algorithmiques continues.
Malgré ses forces, elle est également limitée dans son utilisation pour des problèmes de très haute dimension et dans ses performances sur des fonctions complexes et non stationnaires. Ces limitations, cependant, sont reconnues dans la littérature de recherche actuelle, et de nombreuses extensions sont en cours de développement pour gérer ces configurations.