增量学习，又称持续学习或终身学习，是机器学习中的一种范式，模型随着新数据的出现而顺序更新，而非在静态数据集上一次性训练完成。其核心挑战在于在吸收新信息的同时保留已有知识，这一问题常被称为灾难性遗忘。增量学习对于需要适应不断变化的数据分布的应用至关重要，如个性化推荐、机器人和实时监控，在这些场景中从头重新训练在计算上代价高昂或不可行。
这一概念源于认知科学和早期神经网络研究。在20世纪80年代和90年代，研究者探索了联结主义模型如何实现持续学习，但灾难性干扰的问题由迈克尔·乔丹等人提出并受到关注。2010年代，随着深度学习的兴起，该领域获得了发展动力，大规模模型面临越来越大的压力以适应非平稳环境。现代增量学习方法主要分为三大策略：基于正则化的方法、基于重放的方法和基于架构的方法。
基于正则化的方法
基于正则化的方法在学习过程中添加约束，以保护先前学到的权重。一个典型例子是弹性权重巩固（EWC），由约书亚·特南鲍姆及其同事于2017年提出，该方法对旧任务中重要的参数变化进行惩罚。另一种方法，即“不遗忘学习”（LwF），利用旧模型的知识蒸馏来指导新训练。这些方法计算效率高，且无需存储旧数据，但当任务累积较多时可能面临困难。
基于重放的方法
基于重放的方法会存储一部分过往样本（称为记忆缓冲区），并在新数据训练期间重放它们。经验重放是一种经典技术，通过交替使用新旧样本来维持性能。更先进的方法，如梯度情景记忆（GEM）和平均梯度情景记忆（A-GEM），利用存储的梯度来约束更新。这些方法在实践中效果显著，并广泛用于持续学习基准测试。然而，它们引发了隐私和存储方面的担忧，尤其是在敏感领域。
基于架构的方法
基于架构的方法为不同任务分配独立的模型组件。渐进式神经网络于2016年提出，为每个任务新增神经元列，同时冻结旧列。动态扩展网络和PackNet利用剪枝和掩码来划分容量。这些方法在设计上避免了遗忘，但可能导致模型规模无界增长。近期研究将架构扩展与稀疏性相结合，以控制复杂度。
应用与基准
增量学习应用于在变化环境中运行的人工智能系统。例如，Waymo和特斯拉自动驾驶利用持续适应来改进感知模型，以应对新的驾驶场景。在大型语言模型中，参数高效微调和基于合成数据的重放等技术帮助模型在不进行完整重新训练的情况下保持最新。Split MNIST、Permuted MNIST和带任务序列的CIFAR-100等基准是评估方法的常用标准。该领域还与课程学习有所交叉，后者按有意义的顺序呈现数据。
挑战与未来方向
尽管取得了进展，增量学习仍面临开放性挑战。稳定性-可塑性困境，即在学习新信息与保留旧信息之间取得平衡，仍未得到解决。评估协议各不相同，使得比较变得困难。此外，人们对在线和少样本持续学习的兴趣日益增长，这类场景中数据以小批量形式到达。麻省理工学院计算机科学与人工智能实验室和伯克利人工智能研究等机构的研究继续探索受生物学启发的机制，如突触巩固和神经发生，以构建更稳健的终身学习系统。