神经图灵机（NTM）是一种模拟图灵机的递归神经网络模型。它由亚历克斯·格雷夫斯及其同事于2014年提出。NTM将神经网络的模糊模式匹配能力与可编程计算机的算法能力相结合，使其能够从示例中学习简单算法。
该架构由一个神经网络控制器与外部存储资源耦合而成。控制器通过注意力机制与存储器交互，整个系统是端到端可微分的，从而允许通过梯度下降进行优化。使用长短期记忆（LSTM）控制器时，NTM可以仅从示例中推断出复制、排序和联想记忆等算法。
架构与操作
NTM的控制器通常是递归神经网络，例如LSTM或前馈网络。它接收输入并产生输出，同时对外部存储矩阵执行读写操作。存储器通过基于内容和位置的注意力机制进行寻址，这使得网络能够聚焦于特定的存储位置。这些操作的可微分性质使得可以通过反向传播进行训练。
历史背景与影响
格雷夫斯等人于2014年发表的论文，正值深度学习快速发展的时期。NTM是最早将外部存储显式集成到神经网络中的模型之一，影响了后来的架构，如Transformer (architecture)和大型语言模型。该概念从图灵机中汲取灵感，旨在弥合神经网络与符号计算之间的鸿沟。
实现与挑战
原始作者未发布其源代码。首个稳定的开源实现出现在2018年第27届国际人工神经网络会议上，并获得了最佳论文奖。其他开源实现也存在，但截至2018年，它们在生产环境中还不够稳定。开发者报告了诸如训练过程中梯度变为NaN（原因不明）、收敛缓慢或缺乏报告的学习速度等问题。
扩展与遗产
可微分神经计算机是NTM的衍生物，它融入了更复杂的注意力机制，以控制存储活动并提升性能。NTM的概念也影响了更广泛的神经网络和机器学习研究，特别是在需要记忆增强模型的领域。