达尔文机器是人工智能和进化计算中的一个概念，描述了一种能够通过类似于生物进化的过程来修改自身结构或行为的系统。该术语借鉴了查尔斯·达尔文的自然选择理论，其中变异、遗传和差异适应性驱动着适应过程。在计算领域，达尔文机器通常通过生成多个候选解决方案、根据适应度函数对其进行评估，然后重组或变异最成功的变体以产生下一代来运作。这种方法与传统的固定算法系统形成对比，因为机器自身的设计可以随时间变化，以更好地适应其环境或任务。
这一思想源于早期关于进化算法和自修改系统的研究，约翰·霍兰德等研究者的贡献尤为显著，他在20世纪60年代和70年代开发了遗传算法，随后伯克利人工智能研究和斯坦福人工智能实验室在自适应系统方面的工作也推动了这一领域。该概念通过大卫·哈等人的著作在认知科学和哲学领域获得了更广泛的关注，他们用其来解释生物大脑如何在神经层面实现进化过程。在现代人工智能中，达尔文机器通常与神经进化相关联，其中神经网络架构或权重通过进化而非仅依赖基于梯度的方法进行训练。
进化机制
达尔文机器依赖三个核心机制：变异、选择和遗传。变异通过随机突变或交叉引入候选解决方案群体中的新特征。选择使用适应度函数评估每个候选方案，该函数量化其在给定任务上的表现。遗传确保成功特征传递给下一代，通过复制最佳候选方案或重组其组件实现。在实践中，这些机制可以通过遗传编程、进化策略或粒子群优化等技术在软件中实现。例如，达尔文机器可以进化机器学习模型的超参数，如学习率调度或Dropout率，通过测试多种配置并保留那些最小化损失函数的配置。
在人工智能中的应用
达尔文机器已应用于人工智能的多个领域，特别是在基于梯度的优化困难或搜索空间离散的情况下。一个常见应用是模型剪枝，其目标是找到保持准确性的紧凑神经网络。进化方法可以探索不同的剪枝模式，而无需可微近似。另一个领域是数据增强，其中达尔文机器进化应用于训练数据的变换以提高泛化能力。在强化学习中，神经进化已被用于进化控制任务的策略，有时在稀疏奖励问题上优于深度学习方法。像OpenAI和Google DeepMind这样的公司已探索将进化算法作为反向传播训练的补充，尽管它们通常倾向于结合进化与梯度下降的混合方法。
与学习算法的关系
达尔文机器通常与传统的学习算法形成对比，例如基于SGD变体或Adam优化器的方法。虽然这些方法通过跟随损失函数的梯度来调整参数，但达尔文机器不需要梯度，可以操作于不可微结构。这使其适用于进化架构，如Transformer (architecture)中的层数或多头注意力头的配置。然而，进化方法通常计算成本更高，因为需要评估许多候选解决方案。最近的工作试图通过使用大型语言模型驱动的适应度预测器或用基于梯度训练的解决方案初始化群体来弥合这一差距。该概念还与课程学习相关，其中训练示例的顺序被进化以提高学习效率。
理论视角
从理论角度来看，达尔文机器引发了关于适应本质和自修改极限的问题。一些研究者认为，任何足够复杂的学习系统都可以被视为达尔文机器，因为神经网络训练本身涉及对参数配置的一种选择形式。其他人，如梅兰妮·米切尔，则警告不要过度延伸生物学类比，指出人工系统缺乏自然进化的开放性。在认知科学中，该概念已被用于建模大脑如何在突触层面实现进化过程，约书亚·特南鲍姆和布伦丹·莱克探索了人类如何学习类似于进化程序的结构。这一思想还与生成式人工智能相交汇，其中像扩散模型或GAN这样的模型可以被视为将样本进化到目标分布。
当前研究与未来方向
当代关于达尔文机器的研究聚焦于可扩展性和效率。一个方向是使用基于神经网络的替代模型来近似适应度函数，降低评估候选方案的成本。另一个方向是将进化算法与强化学习框架整合，如Anthropic和三星研究的工作所示。研究者还在调查达尔文机器如何进化自身的学习规则，从而有效创建随时间调整优化策略的系统。这对人工智能安全具有影响，因为自修改系统可能表现出不可预测的行为。截至2020年代中期，没有商业产品明确将其自身标榜为达尔文机器，但其原理已嵌入各种自动化机器学习（AutoML）工具以及来自麻省理工学院计算机科学与人工智能实验室和卡内基梅隆大学等机构的研究原型中。未来工作可能侧重于将进化搜索与大型语言模型驱动的代码生成相结合，以进化整个软件程序。
参见
参考文献
- Holland, J. H. (1975). Adaptation in Natural and Artificial Systems.
- Mitchell, M. (1996). An Introduction to Genetic Algorithms.
- Such, F. P., et al. (2017). Deep Neuroevolution: Genetic Algorithms Are a Competitive Alternative for Training Deep Neural Networks for Reinforcement Learning.
- Stanley, K. O., & Miikkulainen, R. (2002). Evolving Neural Networks through Augmenting Topologies.