语法系统理论是形式语言理论与理论计算机科学的一个分支，研究多个文法如何协作生成单一语言。该理论由Arto Salomaa于1988年提出，通过形式文法对分布式与并行计算进行建模，其中每个组件文法都对整体推导过程作出贡献。该领域为理解由交互式基于规则的系统所涌现的语言行为提供了框架，并与人工智能和机器学习在结构化生成建模方面存在联系。
其核心思想是，一个语法系统由有限个组件文法组成，每个组件文法拥有各自的产生式规则，并在指定的协作协议下共同工作。系统生成的语言是所有可通过这些组件联合作用推导出的字符串的集合。这与传统文法形成对比，后者由单一规则集作用于单一句型。语法系统理论将生成过程中的协作、通信与控制概念形式化，使其与自然语言处理和生成式人工智能等领域相关。
历史发展
该理论由芬兰计算机科学家Arto Salomaa于1988年提出，他因对形式语言与自动机理论的贡献而闻名。Salomaa的初期工作定义了基本模型，包括协作分布式语法系统与并行通信语法系统。20世纪90年代初，该领域迅速扩展，Gheorghe Paun与Jürgen Dassow等研究者对语法系统类型进行了分类。到20世纪90年代中期，该理论已扩展至包含带优先级的重写与上下文相关组件等特性。2010年代，随着研究者寻求对深度学习生成能力的形式化刻画，该领域因与神经网络架构及Transformer模型的联系而获得更多关注。
主要模型与变体
文献中有两种主要模型占主导地位。第一种是协作分布式语法系统（CDGS），其中组件按顺序工作，每个组件重写一个句型，直到满足停机条件，然后将控制权传递给另一组件。第二种是并行通信语法系统（PCGS），其中组件并行操作，并通过查询符号交换句型进行通信。变体包括具有有界推导步数的系统、具有规定通信模式的系统，以及包含概率或加权规则的系统。这些模型已被用于刻画乔姆斯基层级中的语言类别，通常表明即使简单的组件在组合后也能生成复杂语言。
理论性质
一个主要关注点是语法系统的生成能力。研究表明，在特定协作协议下，具有上下文无关组件的CDGS可以生成所有递归可枚举语言，从而证明其与图灵机的等价性。具有正则组件的PCGS可以生成上下文相关语言，凸显了并行通信的能力。该理论还研究描述复杂性，例如生成给定语言所需的最少组件数量，以及成员资格与空性等判定问题。这些结果揭示了组件简单性与系统级表达能力之间的权衡，这一主题与现代深度学习架构中简单单元组合产生复杂行为的思想相呼应。
与计算及人工智能的联系
语法系统理论影响了计算的多个领域。在人工智能中，它为多智能体系统提供了形式化框架，其中智能体（文法）协作完成一项任务。该理论对分布式生成的强调与机器学习范式（如集成方法和专家混合模型）相一致。近期工作将语法系统与大语言模型架构进行类比，其中注意力机制与逐层处理类似于并行通信系统。研究者还利用语法系统对生物过程（如基因调控与发育系统）进行建模，这呼应了该理论在L系统方面的根源。虽然并非应用型AI的主流工具，但该理论为理解涌现式语言生成提供了严谨的数学基础。
当前研究方向
语法系统理论的当代研究探索与Transformer架构及生成式人工智能的联系。一些研究考察如何利用语法系统约束或引导神经模型的输出，从而提高句法正确性。另一些研究则通过语法系统的视角审视序列到序列模型的理论极限，探讨哪些语言类别可以被学习或生成。此外，人们对概率语法系统也颇感兴趣，这类系统为推导分配概率，与神经解码中的损失函数和束搜索相关联。该领域在形式语言理论会议中仍保持活跃，重点关注将经典语法系统与残差网络式迭代细化相结合的混合模型。截至2020年代中期，该理论继续为计算与语言的基础提供独特视角，将传统自动机理论与现代AI相连接。
参见
- 形式语言理论
- 自动机理论
- 生成文法
- 多智能体系统