卷积层是许多神经网络的核心组成部分，尤其是那些用于图像和信号处理的网络。与全连接层（将每个输入神经元连接到每个输出神经元）不同，卷积层以滑动窗口的方式在输入上应用一组可学习的滤波器（也称为卷积核）。这种操作称为卷积，能够检测局部特征，如边缘、角点或纹理，并生成突出显示这些模式出现位置的特征图。该层的设计相比密集层减少了参数数量，并提供平移不变性，这意味着模式无论出现在输入中的哪个位置都能被识别。
卷积层的灵感来源于生物视觉皮层研究，特别是20世纪60年代David Hubel和Torsten Wiesel的发现，他们观察到猫视觉系统中的神经元对局部刺激有响应。早期的人工实现包括1980年Kunihiko Fukushima提出的neocognitron，以及20世纪90年代Yann LeCun提出的LeNet架构，后者使用卷积层进行手写数字识别。此后，卷积层在深度学习中变得无处不在，支撑着从医学影像到自动驾驶的各种应用。
操作与超参数
卷积层接收输入张量（例如，具有多个颜色通道的2D图像），并应用一组滤波器。每个滤波器是一个小的权重矩阵，通常为3x3或5x5，以指定的步长（步幅）在输入上滑动。在每个位置，层计算滤波器权重与对应输入补丁之间的点积，产生单个输出值。结果是每个滤波器的2D激活图，沿深度维度堆叠这些图形成输出张量。
关键超参数包括滤波器大小、步幅、填充和滤波器数量。填充（通常为零填充）控制输出的空间维度，允许层保持输入大小或减小它。步幅影响下采样；较大的步幅降低输出分辨率。滤波器数量决定输出特征图的深度，每个滤波器学习检测不同类型的特征。卷积后，通常应用激活函数（如ReLU，即修正线性单元）以引入非线性。
参数共享与局部连接
两个属性将卷积层与全连接层区分开来：局部连接和参数共享。局部连接意味着每个输出神经元仅连接到输入的小区域，反映了邻近像素比远处像素更相关的观点。参数共享意味着相同的滤波器权重用于所有空间位置，大幅减少可学习参数的数量。例如，一个3x3滤波器，具有3个输入通道和64个输出滤波器，仅有333*64 = 1,728个权重，而处理256x256图像的全连接层则需要数百万个权重。这种效率使卷积层适用于高维输入，并有助于防止过拟合。
在现代架构中的作用
卷积层是许多经典和当代网络架构的基础。残差网络（ResNet）由Kaiming He及其同事于2015年提出，使用带有跳跃连接的卷积层来训练非常深的网络（例如，50、101或152层），并在ImageNet上取得了最先进的结果。U-Net架构专为生物医学图像分割设计，在编码器-解码器结构中使用卷积层和跳跃连接以保留空间细节。此外，卷积层常与批归一化结合以稳定训练，并与丢弃结合用于正则化。
除了图像，卷积层还应用于音频（例如，频谱图）、文本（例如，字符级卷积）和时间序列数据。它们也用于混合模型，结合变换器或多头注意力处理图像描述等任务。虽然变换器在许多领域日益突出，但卷积层对于需要局部特征提取和高分辨率输入高效处理的任务仍然至关重要。
训练与优化
卷积层使用反向传播进行训练，其中相对于滤波器权重计算梯度并通过网络传播。标准优化器是随机梯度下降（SGD）或其变体，如Adam（参见Adam优化器）。学习率调度和权重初始化等超参数显著影响收敛。数据增强（例如，随机裁剪、翻转）等技术有助于提高泛化能力。在训练过程中，滤波器逐渐学习检测越来越复杂的特征：早期层捕获边缘和颜色，而更深层将这些组合成对象部分和完整对象。
局限性与替代方案
卷积层存在局限性，包括固定感受野仅随深度增长，这可能对捕获长距离依赖关系效率低下。它们还需要仔细调整超参数，并且对于大输入可能计算密集。替代方案和改进包括膨胀卷积（在不增加参数的情况下扩大感受野）、深度可分离卷积（用于MobileNet以提高效率）以及动态加权空间位置的注意力机制。尽管存在这些替代方案，卷积层仍然是深度学习系统中稳健且广泛使用的构建块，并得到来自NVIDIA和Google Cloud等公司的硬件优化支持。