L'optimisation multimodale évolutionnaire est un sous-domaine de l'intelligence artificielle et de l'apprentissage automatique qui applique des algorithmes évolutionnaires pour trouver plusieurs solutions distinctes à un problème d'optimisation donné en une seule exécution. Contrairement à l'optimisation évolutionnaire standard, qui converge vers une seule solution optimale, l'optimisation multimodale cherche à identifier un ensemble de solutions diverses et de haute qualité, correspondant souvent à différents optima locaux ou globaux du paysage de fitness. Cette approche est précieuse dans les problèmes d'ingénierie et scientifiques réels où plusieurs conceptions ou stratégies viables existent, et où les décideurs ont besoin d'alternatives pour tenir compte des contraintes, des préférences ou des conditions changeantes.
Le défi central de l'optimisation multimodale évolutionnaire est de maintenir la diversité de la population afin que l'algorithme ne converge pas prématurément vers un seul pic. Des techniques telles que le nichage, le partage de fitness, l'encombrement et la spéciation sont couramment employées pour encourager les sous-populations à explorer différentes régions de l'espace de recherche. Ces méthodes modifient la sélection, le remplacement ou l'évaluation du fitness pour pénaliser la surpopulation et récompenser l'exploration des zones sous-représentées.
Développement historique
Les fondements de l'optimisation multimodale évolutionnaire remontent aux années 1970 et 1980 avec les travaux de John Holland et David Goldberg sur les algorithmes génétiques. Le livre séminal de Holland "Adaptation in Natural and Artificial Systems" (1975) a introduit le concept de maintien de la diversité via des mécanismes comme le partage de fitness. Goldberg et Richardson (1987) ont formalisé le partage de fitness comme un moyen de répartir une population sur plusieurs pics en réduisant le fitness d'un individu en fonction de la densité d'individus similaires dans la population.
Dans les années 1990, des chercheurs d'institutions telles que Université Carnegie Mellon et Stanford AI Lab ont contribué au développement de méthodes d'encombrement, où de nouveaux individus remplacent des individus similaires existants, et de techniques de spéciation qui partitionnent la population en espèces basées sur la similarité génétique. Le domaine a gagné en dynamisme avec l'introduction de méthodes de nichage dans l'optimisation par essaim de particules et l'évolution différentielle au cours des années 2000.
Techniques clés
Partage de fitness
Le partage de fitness modifie le fitness brut d'un individu en le divisant par un nombre de niches, qui mesure combien d'autres individus se trouvent à une certaine distance (le rayon de niche) dans l'espace de recherche. Cela décourage la surpopulation et encourage la population à se répartir sur plusieurs optima. Le rayon de niche est un paramètre critique qui doit être défini en fonction de l'espacement attendu entre les optima.
Encombrement
Les méthodes d'encombrement, telles que l'encombrement déterministe et l'encombrement probabiliste, remplacent un individu par un nouveau descendant uniquement si le descendant est plus similaire à cet individu qu'aux autres membres de la population. Cela préserve la diversité en garantissant que les nouvelles solutions rivalisent avec leurs homologues les plus similaires, permettant à différentes régions de l'espace de recherche de maintenir leurs propres sous-populations.
Spéciation
Les techniques de spéciation regroupent les individus en espèces basées sur une métrique de distance, telle que la distance génotypique ou phénotypique. Chaque espèce évolue indépendamment, avec reproduction et sélection se produisant au sein de l'espèce. Cela permet à différentes espèces de converger vers différents optima sans interférer les unes avec les autres.
Nettoyage et regroupement
Les méthodes de nettoyage attribuent un individu dominant à chaque niche et effacent le fitness de tous les autres individus de cette niche à zéro, les forçant à explorer de nouvelles zones. Les approches de regroupement utilisent l'apprentissage non supervisé, comme les k-moyennes, pour identifier des groupes d'individus similaires et appliquer une pression de nichage au sein de chaque groupe.
Applications
L'optimisation multimodale évolutionnaire a été appliquée dans divers domaines. En conception technique, elle aide à identifier plusieurs conceptions réalisables pour des composants mécaniques, des circuits électriques ou des formes aérodynamiques, permettant aux ingénieurs de sélectionner des solutions répondant à des critères supplémentaires comme le coût, la fabricabilité ou la robustesse. Dans l'apprentissage automatique, elle est utilisée pour le réglage des hyperparamètres et la recherche d'architecture neuronale, où plusieurs bonnes configurations peuvent exister.
En robotique, l'optimisation multimodale permet la découverte de plusieurs allures de mouvement ou stratégies de contrôle pour différents terrains. En bioinformatique, elle aide à identifier plusieurs conformations de protéines ou modèles de réseaux de régulation génique. L'approche est également utilisée en finance pour l'optimisation de portefeuille, où plusieurs allocations d'actifs optimales peuvent satisfaire différentes préférences de risque.
Relation avec d'autres paradigmes d'optimisation
L'optimisation multimodale évolutionnaire est étroitement liée à l'apprentissage curriculaire en ce que les deux impliquent la structuration du processus de recherche pour gérer des paysages complexes, bien qu'ils fonctionnent différemment. Elle intersecte également avec l'augmentation de données dans le sens où le maintien de la diversité dans la population peut être vu comme une forme d'exploration analogue à l'augmentation des données d'entraînement.
Le domaine se connecte aux réseaux de neurones via l'utilisation d'algorithmes évolutionnaires pour l'entraînement et la recherche d'architecture, où les approches multimodales peuvent découvrir plusieurs conceptions de réseaux viables. Il se rapporte également à l'apprentissage par renforcement lors de l'évolution de politiques pour plusieurs stratégies.
Défis et orientations futures
Un défi majeur est l'évolutivité des méthodes de nichage vers des problèmes de haute dimension, où les métriques de distance deviennent moins significatives et le nombre d'optima croît de manière exponentielle. Le réglage des paramètres du rayon de niche et d'autres paramètres de préservation de la diversité reste difficile sans connaissance préalable du paysage de fitness.
La recherche récente explore des méthodes de nichage adaptatives qui ajustent les paramètres pendant l'exécution, des approches hybrides qui combinent des algorithmes évolutionnaires avec la recherche locale ou des modèles d'apprentissage profond, et des implémentations parallèles sur GPU pour l'efficacité. L'intégration avec les grands modèles de langage est un domaine émergent, où les LLM pourraient aider à générer des populations initiales diverses ou à analyser les paysages de fitness.
Les orientations futures incluent le développement de fondements théoriques pour les garanties de convergence dans les contextes multimodaux, l'application des méthodes à des environnements dynamiques et bruités, et la création de références reflétant des problèmes multimodaux réels. Le domaine continue d'évoluer avec des contributions de chercheurs d'institutions comme MIT CSAIL et Berkeley AI Research.