反馈神经网络是一类人工神经网络，其连接形成有向循环，允许信息以环路方式流动。与前馈网络（信号严格从输入流向输出）不同，反馈网络维持随时间演化的内部状态，使其适用于处理序列数据、建模动态系统以及实现记忆功能。常见示例包括循环神经网络（RNN）、Hopfield网络和回声状态网络。这些架构支撑着许多现代机器学习系统，包括使用循环或门控反馈机制的大型语言模型。
反馈神经网络的显著特征在于存在循环连接。这些环路使网络能够保留先前时间步的信息，从而有效赋予其一种短期记忆形式。这一特性对于时间序列预测、语音识别、自然语言处理和控制系统等任务至关重要。反馈可以是局部的（层内）、全局的（层间）或两者兼有，并且可以包含自连接。此类网络的动力学由微分或差分方程控制，其行为范围可从稳定不动点到混沌振荡，具体取决于权重和激活函数。
历史发展
神经计算中反馈的概念可追溯至20世纪中叶。1943年，Warren McCulloch和Walter Pitts提出了具有二元阈值的简单神经元模型，但该模型缺乏反馈。1956年，Frank Rosenblatt引入了感知机（一种前馈网络），但很快便发现了其局限性。1969年，Marvin Minsky和Seymour Papert指出单层感知机无法解决非线性问题，这暂时抑制了相关研究。然而，随着John Hopfield在1982年的工作，反馈网络的兴趣得以复兴；他引入了Hopfield网络，这是一种能够存储和检索模式的循环联想记忆模型。大约同一时期，伯克利的研究人员及其他学者探索了循环反向传播。1985年，卡内基梅隆大学的研究人员开发了随时间反向传播算法，使得循环网络的训练成为可能。后来，在1997年，Sepp Hochreiter和Jürgen Schmidhuber引入了长短期记忆（LSTM）架构，解决了梯度消失问题，并成为现代序列建模的基石。
类型与架构
反馈神经网络有多种形式。Hopfield网络是一种具有对称权重的全连接循环网络，用于联想记忆和优化。Elman网络由Jeffrey Elman于1990年提出，是一种带有上下文单元（存储先前隐藏状态）的简单循环网络。Jordan网络由Michael Jordan于1986年提出，将输出反馈至输入层。回声状态网络由Herbert Jaeger于2001年开发，使用随机初始化且权重固定的储备池，仅训练读出层。门控架构（如LSTM和门控循环单元（GRU））包含可学习的门控机制以控制信息流，从而缓解梯度消失问题。这些变体广泛用于序列到序列模型，而Transformer在混合设计中往往也融入循环或类反馈机制。
训练与挑战
由于时间依赖性，训练反馈网络比训练前馈网络更为复杂。标准方法是随时间反向传播（BPTT），即将网络在时间上展开并应用标准反向传播。然而，BPTT可能遭遇梯度消失或梯度爆炸问题，即梯度在长序列中变得过小或过大。诸如梯度裁剪、层归一化以及谨慎的权重初始化等技术有助于缓解这些问题。此外，Adam等优化器和学习率调度也常被使用。对于大规模模型，训练可能计算密集，通常需要专用硬件，如AWS Trainium或Google Cloud TPU。尽管存在这些挑战，反馈网络已在众多领域取得了最先进的结果。
应用
反馈神经网络广泛应用于多个领域。在自然语言处理中，它们驱动语言模型进行文本生成、翻译和情感分析。在语音识别中，它们将音频信号转换为文本。在机器人技术中，它们支持处理序列传感器数据的控制系统。在金融领域，它们预测股价并检测异常。在医疗保健中，它们分析来自可穿戴设备的时间序列数据。OpenAI和Anthropic开发了大型语言模型，这些模型虽然主要基于Transformer，但往往融入循环或反馈元素以提高效率。Google DeepMind已使用循环网络进行游戏和强化学习。此外，反馈网络还用于生成式AI，以创作音乐和视频。
与现代AI的关系
尽管Transformer在许多领域已占据主导地位，但反馈神经网络仍然高度相关。Transformer并行处理序列，但缺乏固有的时间动态；它们通常依赖位置编码。相比之下，反馈网络自然处理时间和记忆。将Transformer与循环层相结合的混合架构是一个活跃的研究领域。例如，某些模型使用循环机制压缩上下文，从而降低计算成本。反馈原理也是强化学习和RLHF（基于人类反馈的强化学习）的基础，其中智能体通过试错进行学习。截至2020年代中期，反馈神经网络继续激发高效序列建模和神经形态计算方面的创新。
参见
参考文献
- Hopfield, J. J. (1982). Neural networks and physical systems with emergent collective computational abilities.
- Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory.
- Elman, J. L. (1990). Finding structure in time.
- Jaeger, H. (2001). The echo state approach to analysing and training recurrent neural networks.