细胞神经网络（CNN）是一种人工神经网络，专为并行、局部连接的计算而设计。与具有全局连接的传统神经网络不同，CNN由规则的细胞（神经元）网格组成，每个细胞仅与其直接相邻的细胞交互。这种架构模仿了生物视网膜和细胞自动机的结构，能够高效地实时处理图像等二维信号。该概念由Leon O. Chua和Lin Yang于1988年在加州大学伯克利分校提出，此后在图像处理、模式识别和动态系统模拟中得到了应用。
CNN的显著特征是其局部连接性：每个细胞接收来自小邻域（通常为3x3或5x5区域）的输入，并基于一组微分方程更新其状态。这种局部性减少了与全连接网络相比的连接数量，使得高度并行的硬件实现成为可能。CNN既可以在连续时间（模拟）模式下运行，也可以在离散时间（数字）模式下运行，并支持多种定义网络动态的模板。这些模板可被编程以执行边缘检测、噪声滤波和特征提取等操作。
历史与发展
细胞神经网络由Chua和Yang在1988年发表于《IEEE电路与系统汇刊》的论文《细胞神经网络：理论与应用》中提出。最初的动机是利用电子电路的模拟特性，创建一种用于图像处理的实时、低功耗处理器。早期实现使用运算放大器和电阻，但后来的版本融入了数字逻辑和现场可编程门阵列（FPGA）。
在1990年代，研究人员扩展了原始的CNN模型，加入了非线性模板、多层配置和学习算法。1993年，Tamás Roska和Chua引入的CNN通用机（CNN-UM）提供了一个可编程框架，支持软件仿真和硬件原型设计。这促成了匈牙利科学院开发的ACE16k芯片，该芯片能够以每秒数千帧的速度处理128x128图像。尽管取得了这些进展，2010年代深度学习的兴起将研究焦点转向了卷积神经网络（CNN），后者虽共享名称，但在架构和训练方法上存在根本差异。
架构与操作
细胞神经网络由M x N的细胞网格定义，每个细胞具有状态变量、输入和输出。细胞的动态由一阶微分方程控制，该方程结合了其自身状态、相邻细胞的输入和输出以及偏置项。交互权重由两个矩阵指定：A模板（反馈）和B模板（前馈）。这些模板通常较小，如3x3，且在所有细胞中相同，赋予网络平移不变性。
每个细胞的输出是其状态的非线性函数，通常是分段线性Sigmoid函数。这使得网络能够表现出复杂行为，包括稳定不动点、振荡和混沌，具体取决于模板值。在实践中，CNN常被用作空间滤波器：通过选择合适的模板，网络可以执行Sobel边缘检测、高斯平滑或形态学变换等操作。网络的并行特性意味着所有细胞同时更新，使其适合硬件加速。
应用
细胞神经网络主要应用于图像和视频处理。它们被用于监控系统中的实时边缘检测、图像分割和运动检测。在医学成像中，CNN已被用于增强X射线和MRI图像，以及检测视网膜扫描中的异常。CNN的模拟实现提供低功耗，这对便携式设备和嵌入式系统有利。
除图像处理外，CNN还被用于求解偏微分方程、建模反应-扩散系统和模拟生物神经网络。它们也被探索用于联想记忆和模式分类任务。然而，随着机器学习和生成式AI的出现，大多数实际应用现在依赖于在GPU上实现的卷积神经网络（CNN），后者提供了更大的灵活性和可扩展性。截至2020年代，细胞神经网络仍是一个小众话题，主要在学术环境和专门硬件研究中被探讨。
与卷积神经网络的比较
尽管缩写相似，细胞神经网络和卷积神经网络是截然不同的。卷积神经网络是一种前馈架构，具有学习到的滤波器，通过在大数据集上进行反向传播训练。它在空间位置共享权重，并使用多层提取层次化特征。相比之下，细胞神经网络是一种循环的、局部连接的系统，具有固定或手动调整的模板，通常在模拟硬件中实现。前者在图像识别和自然语言处理等任务中表现优异，而后者适用于实时、低功耗的信号处理。
两者名称中的“细胞”均指处理单元的网格状排列，但操作原理不同。细胞神经网络强调连续时间动态和局部交互，而卷积神经网络依赖于离散卷积和非线性激活。这一区别对于研究人员和工程师选择适合特定应用的模型至关重要。
硬件实现
细胞神经网络的关键优势之一是其适合硬件实现。模拟VLSI实现能够实现极高的吞吐量和低能耗，因为每个细胞都是简单电路。首个专用CNN芯片，，CNN通用机，，于1990年代开发，并展示了实时视频处理能力。后来，使用FPGA和专用集成电路（ASIC）的数字实现提供了更大的灵活性和精度。
包括Nokia Bell Labs在内的公司和研究机构已探索用于边缘计算的CNN硬件。然而，与为深度学习设计的Graphcore和Groq加速器相比，CNN硬件的商业成功有限。细胞神经网络的边缘性质意味着大多数现代硬件开发聚焦于Transformer (architecture)模型和大型语言模型，这些主导了当前AI领域。
参见
参考文献
- Chua, L. O., & Yang, L. (1988). Cellular Neural Networks: Theory and Applications. IEEE Transactions on Circuits and Systems.
- Roska, T., & Chua, L. O. (1993). The CNN Universal Machine: An Analogic Array Computer. IEEE Transactions on Circuits and Systems II.