在人工智能中，知识层是一种抽象层次，用于纯粹根据智能体的知识和目标来描述其行为，而不涉及实现该知识的底层机制。它由艾伦·纽厄尔于1982年在其论文《知识层》（发表于Artificial Intelligence，18(1):87-127）中提出。在这一层次上，智能体通过其已知内容和目标来刻画，其行为依据理性原则进行选择：智能体选择它认为在给定知识下最能满足其目标的行动。
知识层是一种逻辑抽象，将智能体信念和欲望的内容与这些信念如何存储或处理的细节分离开来。它提供了一种合理化智能体行为的方式，即根据其认知状态和目标来解释和预测智能体将做什么，而不是依据其使用的具体算法或数据结构。这种抽象对于设计、分析和比较智能系统非常有用，因为它允许在高度概括的层次上推理行为。
与符号层的关系
在知识层之下是符号层，它面向系统，包含智能体可用来操作的机制。知识层面向世界，涉及智能体运行的环境，而符号层则涵盖算法、数据结构以及其他将智能体行为机制化的实现细节。知识层使行为合理化；符号层使行为机制化。
例如，在计算机程序中，知识层由数据结构中包含的信息组成，这些信息用于执行特定操作，如关于世界的事实或决策规则。符号层则由程序的算法、数据结构本身以及运行它们的物理或虚拟硬件组成。同一个知识层描述可以由许多不同的符号层实现来实现。
在AI研究中的应用
知识层影响了机器学习和生成式AI的多个领域。在基于知识的智能体中，它提供了一个框架，用于独立于推理引擎或知识表示方案来指定智能体知道什么及其目标是什么。这种抽象在神经网络和大型语言模型中尤其相关，因为内部表示是不透明的，但知识层行为可以通过模型的输出和目标来刻画。
在深度学习中，知识层通常用于描述模型的功能能力，即它学到了什么以及能做什么，而不详细说明数百万个权重或具体架构。例如，一个在文本上训练的Transformer模型可以在知识层描述为知道关于语言的事实并能生成连贯的响应，尽管其符号层实现涉及多头注意力、位置编码和层归一化。
理性原则与目标导向行为
理性原则是知识层的核心。它指出，智能体将选择它认为在给定知识下能导致其目标得到满足的行动。这一原则使知识层能够用于预测：如果我们知道智能体知道什么以及它想要什么，我们就可以推断它将做什么，而无需知道它内部如何处理信息。
这种方法已应用于强化学习和课程学习，其中智能体根据观察（知识）被训练以最大化奖励（目标）。它还支撑了用于对齐OpenAI和Anthropic模型的RLHF（基于人类反馈的强化学习），其中模型的行为由编码人类偏好的奖励信号塑造。
批评与局限性
一些研究者认为，知识层对于实际使用来说过于抽象，因为它假设智能体的知识和目标有完整且一致的规范，而这在现实系统中往往不可用。另一些人指出，在学习或适应的系统中，知识层与符号层之间的区别可能会模糊，因为知识本身会被符号层过程修改。尽管如此，知识层仍然是认知科学和AI中的基础概念，为讨论智能行为提供了清晰的词汇。
参见
- 知识层建模
- 知识相对性
- 基于知识的智能体
参考文献
- Newell, A. (1982). The Knowledge Level. Artificial Intelligence, 18(1):87-127.
- Menzies, T. (1996). Applications of Abduction: Knowledge-Level Modeling. November 1996.