神经网络是一种计算模型，由相互连接的简单处理单元层组成，其设计粗略受生物神经元启发，连接强度（即权重）通过训练进行调整，以逼近所需函数。神经网络是现代深度学习的核心计算结构，进而也是大多数当代人工智能系统的基础。
历史
最早可训练的神经历模型是感知机，于1958年提出，它能够使用单层可调权重学习分类简单模式。其局限性在1969年的一篇评论中被记录，导致研究资金大幅减少，这一时期被称为人工智能寒冬。20世纪80年代，随着反向传播算法的普及，多层网络的兴趣得以复兴，该算法能高效计算网络中每个权重应如何变化以减小误差，使得带隐藏层的网络在实践中得以训练。神经网络从一种小众技术转变为人工智能领域的主导方法，是在2012年AlexNet取得成功之后，该网络证明了使用图形处理单元在大数据集上训练的多层网络，能够在实际任务上大幅超越先前方法。
结构
神经网络由层组成，每层包含若干单元（即神经元），每个单元计算其输入的加权和，并通过非线性激活函数传递结果，再发送到下一层。输入与输出之间具有许多此类层的网络被称为“深度”网络，深度学习因此得名。在训练过程中，损失函数衡量网络输出与期望结果之间的差距，梯度下降迭代调整权重以缩小该差距，而反向传播则高效地一次性为所有层提供所需梯度。
架构家族
不同的网络架构适用于不同类型的数据。卷积神经网络使用共享的、空间局部的滤波器，非常适合图像处理。循环神经网络（包括LSTM变体）逐步处理序列，历史上用于文本和语音，后来被Transformer架构所取代，后者利用注意力机制并行处理整个序列。生成式架构，如生成对抗网络和扩散模型，将神经网络应用于生成新数据，而不仅仅是分类或预测。
局限性与可解释性
神经网络常被批评为“黑箱”：其内部表示难以被人类检查或解释，即使输出准确。这催生了一个有时被称为可解释性的研究子领域，试图逆向工程训练网络中各个组件所代表的内容。尽管存在这种不透明性，神经网络仍然是视觉、语言、音频以及日益增多的机器人和科学应用中的主导工具，主要因为其性能随着更多数据、更多参数和更多计算资源而持续可预测地提升。
近期发展
在2020年代，神经网络的规模和能力持续扩展，尤其是在生成式人工智能领域。基于Transformer架构的大型语言模型展示了在推理、翻译和代码生成方面的涌现能力，而扩散模型已成为高质量图像和视频合成的标准。神经网络可解释性的研究也取得了进展，诸如机制可解释性等技术旨在逆向工程训练网络的内部计算。这些发展巩固了神经网络作为众多领域基础技术的地位，包括科学发现和自主系统。