Bayesian optimization ist eine sequenzielle modellbasierte Strategie zur globalen Optimierung von Black-Box-Zielfunktionen, deren Auswertungen kostspielig sind. Sie wird häufig eingesetzt, wenn eine einzelne Beobachtung ein Experiment, eine technische Berechnung, eine numerische Simulation oder einen maschinellen Lernlauf erfordert und wenn Ableitungen nicht verfügbar oder unzuverlässig sind. Die Zielfunktion muss keinen geschlossenen Ausdruck haben, und die Methode konstruiert ein probabilistisches Modell der unbekannten Funktion, um einen Abtastprozess zu steuern, der Exploration und Exploitation ausbalanciert.
Die Methode baut eine Sequenz von Bewertungspunkten auf, indem zunächst ein probabilistisches Surrogatmodell der Zielfunktion konstruiert wird, oft ein Gaußprozess. Die prädiktive Verteilung des Modells liefert sowohl einen Erwartungswert als auch ein Maß für die Unsicherheit an jedem Kandidatenpunkt. Ein Abtastkriterium, auch Akquisitionsfunktion genannt, wird aus dieser prädiktiven Verteilung berechnet, und der nächste Punkt wird durch Optimierung dieses Kriteriums gewählt. Der ausgewählte Punkt wird dann ausgewertet, das Modell wird mit der neuen Beobachtung aktualisiert, und der Prozess wiederholt sich. Dieser Ansatz macht die Methode nützlich für Umgebungen, in denen jede Auswertung teuer oder zeitaufwendig ist.
Geschichte
Frühe Arbeiten zu Bayesschen Ansätzen der globalen Optimierung lassen sich auf die 1960er und 1970er Jahre zurückführen. Forscher wie Harold J. Kushner entwickelten Methoden zur Lokalisierung von Extrema verrauschter Funktionen, und Jonas Mockus trug zur Bayesschen Optimierung zur Auffindung von Extrema in verrauschten Umgebungen bei. Im Jahr 1998 führten Donald R. Jones, Matthias Schonlau und William J. Welch den Algorithmus der effizienten globalen Optimierung (EGO) ein, der ein Kriging-Modell oder einen Gaußprozess mit dem Kriterium der erwarteten Verbesserung kombinierte, um teure dominante Funktionen zu optimieren. Diese wegweisende Arbeit half, das Feld zu etablieren und machte die Bayessche Optimierung bekannter.
In den folgenden Jahrzehnten wurde das Framework erweitert, um verrauschte Beobachtungen, Nebenbedingungen, Batch- und parallele Auswertungen, mehrere Ziele sowie gemischte oder hochdimensionale Räume zu behandeln. Diese Erweiterungen ermöglichten die Anwendung des Ansatzes auf eine breitere Palette praktischer Probleme, oft jedoch auf Kosten erhöhter algorithmischer Komplexität.
Problemstellung
In einem standardmäßigen Einzielproblem sucht die Bayessche Optimierung einen Punkt, der die Zielfunktion f(x) über einen Suchraum minimiert. Ohne Beschränkung der Allgemeinheit kann ein Maximierungsproblem durch Minimierung von -f(x) umformuliert werden. Der Suchraum ist nicht primär durch eine Box oder einen kontinuierlichen Bereich definiert, obwohl die Standardformulierung am direktesten auf kontinuierliche Probleme mit geringer bis mittlerer Komplexität anwendbar ist. Mit zunehmender Dimension expandiert der Suchraum und Bewertungspunkte werden spärlicher, was das Problem schwieriger macht.
Die Probleme können als rauschfrei klassifiziert werden, bei denen die Auswertung den exakten Funktionswert zurückgibt, oder als verrauscht, bei denen Beobachtungen einen gewissen Fehler enthalten. Reale Anwendungen fügen oft weitere Komplikationen hinzu, einschließlich unbekannter Nebenbedingungen, paralleler Auswertungen oder mehrerer Ziele. Jede Variation beeinflusst, wie das Surrogatmodell und das Abtastkriterium definiert werden.
Grundlegende Methode
Die meisten Implementierungen der Bayesschen Optimierung folgen dem standardmäßigen sequenziellen Verfahren. Ein typischer Lauf beginnt mit einem anfänglichen Design, zum Beispiel einem raumfüllenden lateinischen Hyperwürfel oder einer Zufallsstichprobe, um eine erste Menge von Beobachtungen zu erhalten. Der Algorithmus bewertet dann die Zielfunktion an diesen Punkten. Ein Surrogatmodell wird an diese Daten angepasst, wobei sowohl der vorhergesagte Trend als auch die Unsicherheit der Vorhersagen erfasst werden.
Die Akquisitionsfunktion, auch Infill-Kriterium genannt, wird dann definiert; häufige Wahlmöglichkeiten umfassen erwartete Verbesserung (EI), obere Konfidenzgrenze (UCB) und Wahrscheinlichkeit der Verbesserung. Der nächste Punkt oder die nächste Batch von Punkten wird durch Optimierung der Akquisitionsfunktion gewählt, die Exploration (Punkte mit hoher Modellunsicherheit) gegen Exploitation (Punkte mit günstigen vorhergesagten Werten) abwägt. Nach der Auswertung wird der Datensatz aktualisiert und der Prozess wiederholt sich.
Diese Schleife wird fortgesetzt, bis eine Stoppregel erfüllt ist, manchmal basierend auf einer festen Anzahl von Prototypen oder einem Konvergenzkriterium. Der Hauptvorteil der Bayesschen Strategie ist ihre Stichprobeneffizienz, was bedeutet, dass sie versucht, eine gute Lösung mit so wenigen Funktionsauswertungen wie möglich zu finden.
Probabilistische Modelle
Die Spezifikation des probabilistischen Modells ist zentral für die Methodik. Ein Regressionsmodell der Zielfunktion ist erforderlich, um Vorhersagen und Unsicherheitsschätzungen über den Suchraum zu liefern. Die häufigste Wahl und der De-facto-Standard ist die Gaußprozessregression (GPR). Eine GP-A-priori-Verteilung definiert eine kontinuierliche Funktion, bei der jede Menge von Punkten gemeinsam gaußverteilt ist, und die A-posteriori-Verteilung wird exakt berechnet, wenn die Beobachtungen kontinuierlich sind. GPR ist flexibel und liefert die analytische Unsicherheit, die für die Definition der meisten Akquisitionsfunktionen wesentlich ist.
Andere Modelltypen umfassen Zufallswälder, neuronale Netze und Deep Learning, insbesondere wenn der Suchraum hochdimensional ist oder gemischte Variablen enthält. Neuere Entwicklungen integrieren auch Deep-Learning-Proxy-Modelle oder Ensembles, um alternative Kostenstrukturen zu behandeln. Das Modell wird als Surrogatmodell bezeichnet, weil es für die teure Zielfunktion bei der Auswahl der Kandidatenpunkte steht. Die Qualität der Unsicherheitsschätzungen, nicht nur der Vorhersage, steht in direktem Zusammenhang mit dem möglichen Risiko der Akquisitionsfunktion.
Erweiterungen und Anwendungen
Die Bayessche Optimierung ist zu einem Standardwerkzeug in der Hyperparameteroptimierung für maschinelles Lernen geworden, bei der jeder Versuch das Training und die Validierung eines Modells erfordert. Die Kosten eines solchen Versuchs können von Minuten bis zu Tagen reichen, und die Anzahl der Hyperparameter kann klein sein, aber die Auswertungen sind aufgrund von Zufälligkeit verrauscht. Methoden für verrauschte Auswertungen wurden speziell entwickelt, um dies zu behandeln.
Im Ingenieurwesen umfasst die Zielfunktion oft teure numerische Simulationen wie Finite-Elemente-Analysen oder numerische Strömungsmechanik, bei denen ein einzelner Lauf Stunden dauern kann. Die Bayessche Optimierung wird verwendet, um Designparameter zu finden, die Kosten minimieren oder die Leistung maximieren, während Nebenbedingungen eingehalten werden. Die Methode hat auch Anwendungen im experimentellen Design für Chemie, Physik und Wirkstoffforschung, wo physische Tests kostspielig sind.
Parallele und Batch-Varianten werden verwendet, um moderne Fähigkeiten wie GPU-Cluster und Cloud-Anbieter wie Amazon Web Services oder Google Cloud zu nutzen, indem mehrere Punkte gleichzeitig ausgewertet werden. Für Hochleistungsrechnen haben Organisationen wie Nvidia und Intel in Werkzeuge investiert, die die Methode in breitere Arbeitsabläufe integrieren. Die Bayessche Optimierung ist auch ein aktives Forschungsgebiet mit fortlaufenden algorithmischen Fortschritten.
Trotz ihrer Stärken ist sie auch in ihrer Verwendung für sehr hochdimensionale Probleme und in ihrer Leistung bei komplexen, nicht-stationären Funktionen eingeschränkt. Diese Einschränkungen sind jedoch in der aktuellen Forschungsliteratur nicht unbekannt, und viele Erweiterungen werden entwickelt, um diese Setups zu behandeln.