GeneRec是一种由杰弗里·辛顿于1989年提出的神经网络学习算法。它被设计为反向传播的一种生物学上合理的替代方案，旨在解释大脑如何在不需要全局误差信号或精确导数计算的情况下调整突触权重。其名称源自“gene”（意为起源）和“rec”（源自复发），反映了其在递归网络理论中的根基，以及从局部活动模式生成学习规则的目标。
与标准反向传播（通过网络反向传播误差信号）不同，GeneRec采用对比性Hebbian学习规则。它分两个阶段运行：一个“正”阶段，网络被钳制到目标输出；一个“负”阶段，网络自由运行。权重更新计算为这两个阶段中突触前后活动相关性的差值。这种局部规则使其更符合生物约束，因为它仅需要每个突触处可获取的信息。
理论基础
GeneRec建立在早期机器学习和计算神经科学工作基础上，特别是对比性学习的概念。该算法与玻尔兹曼机学习规则密切相关，但它适用于具有连续激活的确定性网络。辛顿的关键洞见是，“正”和“负”阶段统计量之间的差值可以近似误差函数的梯度，即使在递归架构中也是如此。
该算法假设网络具有对称连接，这一条件简化了数学处理，但对所有变体并非严格必要。在实际中，GeneRec可以在前馈网络中实现，方法是在“正”阶段将输出层作为钳制目标。“负”阶段则对应无外部钳制的前向传递，使网络自然进入其稳定状态。
与反向传播的关系
GeneRec通常被描述为反向传播的“局部”近似。反向传播使用链式法则精确计算梯度，而GeneRec依赖活动的时间差异。在某些条件下，例如当网络接近平衡且学习率较小时，GeneRec的更新会收敛到与反向传播梯度相同的方向。这一等价性在后续工作中得到了严格分析，特别是2003年谢和翁氏的合作指出，GeneRec可以被视为递归网络中更为通用的Almeida-Pineda算法的特例。
然而，GeneRec在实现上有所不同。它不要求使用不同误差信号的独立前向和反向传递。相反，它对两个阶段使用相同的网络动态，使其更适用于模拟生物系统的硬件实现。这激发了对GeneRec作为节能深度学习在神经形态芯片上候选方案的重新兴趣。
生物学合理性
GeneRec的主要动机是解决神经科学中的“信用分配问题”。反向传播需要精确的误差传播，这与已知的神经回路难以调和。GeneRec提供了一种更合理的机制：它依赖于Hebbian可塑性，并通过全局信号（表示正或负的相位）进行调节。这与尖峰时序依赖可塑性及神经调质在学习中作用的实验发现相符。
研究者指出，GeneRec的两相动态类似于某些无监督学习模型中使用的“觉醒-睡眠”算法。在觉醒阶段，网络处理感觉输入；在睡眠阶段，网络整合记忆。这一类比激发了进一步研究，探讨皮层区域如何通过循环交互实施对比性学习。
应用与影响
尽管GeneRec并未被主流机器学习广泛采用，但它影响了后续对生物启发算法的研究。它是现代对比性学习方法的先驱，并在能源模型和差异等论工作的中被引用。在2010年代和2020年代，随着研究者寻求在专用硬件上训练多维模型的替代方案，兴趣重新点燃。
GeneRec已被探索于Artificial intelligence系统中，旨在模拟皮层处理的系统。例如，它被用于视觉皮层发育的模拟和运动学习模型。其局部更新规则使其对分布式实现具有吸引力，例如Graphcore的IPU或其他并行架构，尽管目前暂无重大商业部署。
限制与扩展
GeneRec的主要限制是需要对称权重和网络动态的精确控制。在实际中，先后两个阶段可能需要计算成本，因为网络必须在每个阶段中达到平衡。这使其在处理大规模问题时比标准反向传播更慢。此外，该算法对噪声和参数选择敏感，这阻碍了其在竞争性基准测试中的采用。
GeneRec的扩展包括放宽对称性假设的变体，如“随机反馈对齐”方法，以及将局部Hebbian更新与偶尔全局校正相结合的混合方法。近期的理论工作也将GeneRec与均衡传播联系起来，后者是Scellier和Bengio于2017年提出的方法，使用类似的对比两阶段规则。这些联系表明，GeneRec仍然是理解生物和人工系统中学习的一个相关框架。
遗产
GeneRec是寻求可生物合理学习算法中的一个里程碑。它强调局部计算和时间对比，启发了历年8代神经计算和认知科学的研究者。尽管反向传播在实际应用中仍占主导，但GeneRec的原理继续影响着构建更高效和更类似大脑的AI系统的努力。到了2020年代，虽然主要在学术背景中研究，但其理念仍存在于神经形态硬件设计和学习动态理论分析中。