增长型自组织映射（GSOM）是一种用于无监督学习的人工神经网络，特别适用于高维数据的聚类和可视化。与标准自组织映射（SOM）不同，标准SOM从一开始就具有固定的神经元网格，而GSOM以最小的节点网络（通常为四个）开始，并在训练过程中通过添加新节点来增长。这种动态增长使GSOM能够适应输入数据的底层结构，从而可能更好地表示复杂或非均匀的数据分布。该概念于2000年代初作为SOM的扩展被引入，旨在减少对地图尺寸先验指定的需求，并提高高数据密度区域的地图分辨率。
GSOM主要在两个阶段运行：增长阶段和平滑阶段。在增长阶段，网络通过在节点的累积误差超过预定义阈值的区域插入新节点来扩展。误差通常以节点权重向量与其获胜的输入向量之间的欧氏距离来衡量。当节点的误差超过阈值时，会在其相邻位置添加新节点，权重初始化为在现有节点之间插值。平滑阶段则在不进一步增长的情况下微调权重，类似于标准SOM的最终阶段。这种两阶段方法有助于在捕捉细节和保持稳定、可解释的地图之间取得平衡。
增长机制
GSOM中的增长过程由增长阈值（GT）参数控制，该参数决定网络对误差的敏感程度。较低的GT会导致更频繁的节点插入，从而产生更大的地图，而较高的GT则产生更小、更紧凑的地图。每个节点的误差累积通常计算为其获胜输入向量上的平方误差之和，并将该值与GT进行比较。当超过阈值时，该节点被标记为增长，并在其邻居中误差最高的方向上插入新节点。这种机制确保地图优先在数据更复杂或更密集的区域扩展。
训练算法
GSOM的训练算法遵循一系列步骤。最初，创建一个2x2的节点网格，并赋予随机权重向量。对于每个输入向量，识别获胜节点（与输入距离最小的节点），并使用随时间递减的学习率更新其权重及其拓扑邻居的权重。每个周期后，累积每个节点的误差。如果任何节点的误差超过GT，则触发增长。该过程重复，直到总误差或节点数量达到停止标准。最终平滑阶段以较低的学习率运行固定数量的周期以细化权重。与其他一些增长型网络模型相比，该算法计算效率较高，因为它不需要复杂的剪枝或合并操作。
应用
GSOM已应用于数据高维且最优地图大小未知的各种领域。常见应用包括机器学习任务，如文档聚类、图像分割和网络流量中的异常检测。在生物信息学中，GSOM已用于聚类基因表达数据，其中生物学相关簇的数量通常事先未知。地图自适应增长的能力在流数据场景中特别有用，因为数据分布可能随时间变化，GSOM可以继续添加节点以适应新模式。与标准SOM相比，GSOM通常产生具有更好量化误差和拓扑保持的地图，尤其是在数据密度不均匀的情况下。
与标准SOM的比较
GSOM与标准SOM的主要区别在于网络架构。标准SOM要求用户训练前指定地图的行数和列数，如果数据的内在维度未知，这可能具有挑战性。GSOM通过按需增长地图消除了这一要求。然而，这种灵活性以额外参数为代价，如增长阈值和最大节点数，这些参数需要调整。在实践中，GSOM往往对初始学习率和输入呈现顺序更敏感，但它们通常收敛到比具有相似节点数的固定大小SOM更紧凑的表示。研究表明，GSOM可以实现比类似大小的SOM更低的最终量化误差，尽管节点插入的计算开销可能更高。
扩展和变体
已提出多种GSOM变体以解决特定限制。例如，增长型层次自组织映射（GHSOM）通过构建地图的层次结构来扩展GSOM，其中每个节点本身可以是一个地图，从而支持多级聚类。另一种变体，增长型神经气（GNG），相关但使用基于节点间连接年龄的不同增长规则。一些实现结合了数据增强技术，以提高在噪声数据上训练时的鲁棒性。GSOM也已与深度学习框架集成，例如作为需要降维的人工智能系统的预处理步骤。尽管有这些扩展，自适应增长的核心思想在所有方法中仍然至关重要。
局限性和注意事项
GSOM的一个局限性是必须适当设置增长阈值；如果设置过低，地图可能变得过大，导致训练数据过拟合。相反，高阈值可能导致地图过小，无法捕捉重要结构。该算法还假设输入数据已归一化，因为距离计算对尺度敏感。此外，输入向量的呈现顺序可能影响最终地图，因此通常建议使用不同随机种子进行多次运行。GSOM不是大型语言模型或transformer架构；它属于竞争学习网络类别，与主导现代生成式AI应用的监督和自监督模型不同。尽管如此，它仍然是研究和工业中探索性数据分析的有用工具。