进化多模态优化是人工智能和机器学习的一个子领域，它应用进化算法在单次运行中为给定优化问题找到多个不同解。与收敛到单一最优解的标准进化优化不同，多模态优化旨在识别一组多样且高质量的解，这些解通常对应于适应度景观中的不同局部最优或全局最优。这种方法在现实世界的工程和科学问题中很有价值，因为在这些问题中可能存在多种可行的设计或策略，决策者需要替代方案来考虑约束、偏好或变化的条件。
进化多模态优化的核心挑战是维持种群多样性，使算法不会过早收敛到一个峰值。诸如小生境、适应度共享、拥挤和物种形成等技术通常被用来鼓励子种群探索搜索空间的不同区域。这些方法修改选择、替换或适应度评估，以惩罚过度拥挤并奖励对未被充分代表区域的探索。
历史发展
进化多模态优化的基础可以追溯到20世纪70年代和80年代，约翰·霍兰德和大卫·戈德伯格在遗传算法方面的工作。霍兰德的开创性著作《自然与人工系统中的适应性》（1975年）引入了通过适应度共享等机制维持多样性的概念。戈德伯格和理查森（1987年）将适应度共享形式化，通过根据种群中相似个体的密度降低个体的适应度，将种群分布到多个峰值上。
在20世纪90年代，卡内基梅隆大学和斯坦福人工智能实验室等机构的研究人员为拥挤方法的发展做出了贡献，其中新个体替换相似的现有个体，以及根据遗传相似性将种群划分为物种的物种形成技术。随着2000年代粒子群优化和差分进化中小生境方法的引入，该领域获得了进一步的发展动力。
关键技术
适应度共享
适应度共享通过将个体的原始适应度除以一个小生境计数来修改它，该计数衡量搜索空间中某个距离（小生境半径）内有多少其他个体。这阻止了过度拥挤，并鼓励种群在多个最优解之间分布。小生境半径是一个关键参数，必须根据最优解之间的预期间距来设置。
拥挤
拥挤方法，如确定性拥挤和概率拥挤，仅当新后代与某个个体的相似度高于与其他种群成员的相似度时，才用该后代替换该个体。这通过确保新解与其最相似的对应物竞争来保持多样性，允许搜索空间的不同区域维持各自的子种群。
物种形成
物种形成技术根据距离度量（如基因型或表型距离）将个体分组为物种。每个物种独立进化，繁殖和选择在物种内部进行。这允许不同物种收敛到不同最优解而互不干扰。
清除和聚类
清除方法为每个小生境分配一个主导个体，并将该小生境内所有其他个体的适应度清零，迫使它们探索新区域。聚类方法使用无监督学习（如k均值）来识别相似个体的组，并在每个聚类内施加小生境压力。
应用
进化多模态优化已应用于各个领域。在工程设计中，它帮助识别机械部件、电路或空气动力学形状的多个可行设计，使工程师能够选择满足成本、可制造性或鲁棒性等额外标准的解。在机器学习中，它用于超参数调整和神经架构搜索，其中可能存在多个好的配置。
在机器人学中，多模态优化使发现不同地形下的多种运动步态或控制策略成为可能。在生物信息学中，它帮助识别多种蛋白质构象或基因调控网络模型。该方法还用于金融中的投资组合优化，其中多个最优资产配置可能满足不同的风险偏好。
与其他优化范式的关系
进化多模态优化与课程学习密切相关，因为两者都涉及构建搜索过程以处理复杂景观，尽管它们运作方式不同。它也与数据增强有交集，因为维持种群多样性可以被视为一种类似于增强训练数据的探索形式。
该领域通过使用进化算法进行训练和架构搜索与神经网络相连，其中多模态方法可以发现多个可行的网络设计。它还与强化学习相关（不在提供的列表中但隐含），当进化多种策略时。
挑战和未来方向
一个主要挑战是小生境方法在高维问题中的可扩展性，其中距离度量变得不那么有意义，最优解的数量呈指数增长。在没有适应度景观先验知识的情况下，调整小生境半径和其他保持多样性的参数仍然困难。
最近的研究探索了在运行期间调整参数的自适应小生境方法，将进化算法与局部搜索或深度学习模型相结合的混合方法，以及在GPU（不在列表中）上的并行实现以提高效率。与大型语言模型的集成是一个新兴领域，其中LLM可以协助生成多样的初始种群或分析适应度景观。
未来方向包括为多模态设置中的收敛保证发展理论基础，将方法应用于动态和嘈杂环境，以及创建反映现实世界多模态问题的基准。该领域继续随着MIT CSAIL和伯克利人工智能研究等机构研究人员的贡献而发展。