小脑模型关节控制器（CMAC）是一种人工神经网络，其灵感来源于小脑的结构和功能，小脑是大脑中参与运动控制和协调的区域。CMAC 于 20 世纪 70 年代开发，是一种联想记忆形式，通过分布式、局部调谐的表示将连续输入向量映射为输出值，从而执行函数逼近。它特别适用于实时控制应用，例如机器人手臂操作，其中需要快速学习和适应。
CMAC 的工作原理是将每个输入维度量化为一组重叠的感受野。每个输入点激活这些感受野中的一个小子集，网络输出计算为与激活感受野相关的权重之和。这种设计提供了局部泛化能力：相似的输入激活重叠的感受野，产生相似的输出，而相距较远的输入不共享感受野，从而防止干扰。学习规则通常是简单的梯度下降或最小均方更新，这使得训练快速且计算成本较低，相比多层感知器更为高效。
历史发展
CMAC 由 James Albus 于 1975 年提出，当时他在国家标准局（现美国国家标准与技术研究院）工作。Albus 的动机是需要一个计算高效的小脑功能模型，他在 Mathematical Biosciences 期刊上发表的一系列论文中详细阐述了这一模型。他的工作借鉴了 David Marr 和 James Brindley 早期关于小脑学习的理论，但 Albus 的关键贡献在于提出了可在硬件或软件中实现的实用算法公式。“关节控制器”这一名称反映了其最初用于控制机器人操作器关节的预期用途，在这些关节中，平滑、精确的运动至关重要。
架构与操作
CMAC 由多个层组成：输入层、概念映射层、物理存储层和输出层。输入层接收连续值信号，然后将其量化为离散状态。概念映射层通过哈希函数将每个量化输入分配给虚拟存储空间中的一组活动地址，以减少内存需求。物理存储层存储权重值，输出为活动地址处权重之和。
每个输入的活动地址数量，通常表示为 C，决定了泛化宽度。较大的 C 产生更广泛的泛化但分辨率较粗，而较小的 C 提供更精细的判别。分辨率还受每个维度中量化步长大小的控制。在实践中，CMAC 通常使用哈希方案将较大的概念空间映射到较小的物理存储空间，这可能导致冲突，但在控制任务中通常是可以接受的。
学习与适应
训练 CMAC 涉及呈现输入-输出对并调整活动地址的权重。标准更新规则为：
Δw = α * (target - output) / C
其中 α 是学习率，target 是期望输出，output 是当前预测。该规则等效于归一化最小均方算法。由于每次样本更新仅涉及一小部分权重，学习快速且稳定，即使数据含有噪声也是如此。CMAC 不会遭受灾难性干扰，因为每个权重仅受激活其对应感受野的输入影响。
一个局限性是权重数量可能随输入维度呈指数增长，尽管哈希可以缓解这一问题。对于高维问题，可能更倾向于使用诸如 深度学习 网络等其他架构，但 CMAC 在低到中等维度的控制任务中仍具有竞争力。
应用
CMAC 已广泛应用于机器人和控制系统。早期用途包括控制工业机器人手臂的关节，提供平滑的轨迹跟踪。它还被用于非线性系统的自适应控制，例如飞机飞行控制和发动机管理。在 20 世纪 90 年代和 21 世纪初，研究人员将 CMAC 与 强化学习 技术相结合，用于倒立摆平衡和移动机器人导航等任务。
近年来，CMAC 在信号处理和模式识别等领域找到了小众应用，尽管它在很大程度上已被 深度学习 方法所掩盖。然而，其较低的计算成本和简单的硬件实现使其对嵌入式系统和实时应用具有吸引力，例如在 特斯拉自动驾驶 风格的控制回路或 直觉外科 机器人手术系统中，其中延迟至关重要。
与其他模型的比较
与 神经网络 模型（如多层感知器或基于 Transformer 的架构）不同，CMAC 是一种非参数、局部加权模型。它不需要通过隐藏层进行反向传播或梯度计算，使其更易于在模拟或数字硬件中实现。其内存使用可预测，训练是在线的，这意味着它可以连续适应变化的环境。
然而，对于高维、结构化数据（如图像或文本），CMAC 缺乏深度网络的表示能力。它最适合输入空间相对较低且待逼近函数平滑的问题。在更广泛的 人工智能 和 机器学习 背景下，CMAC 被视为经典方法，但它在控制工程和机器人教育中仍然是一个有用的工具。
参见
参考文献
- Albus, J. S. (1975). A new approach to manipulator control: The cerebellar model articulation controller (CMAC). Journal of Dynamic Systems, Measurement, and Control, 97(3), 220-227.
- Miller, W. T., Glanz, F. H., & Kraft, L. G. (1990). CMAC: An associative neural network alternative to backpropagation. Proceedings of the IEEE, 78(10), 1561-1567.
- Brown, M., & Harris, C. (1994). Neurofuzzy Adaptive Modelling and Control. Prentice Hall.