LLM Wiki Prompt是一种提示工程技巧，通过受Zettelkasten启发的互联笔记系统，为大型语言模型构建上下文信息。该技巧由Andrej Karpathy于2025年推广，将知识组织为离散且相互交叉引用的条目，模仿个人知识管理系统，使模型能够比线性提示更有效地访问和综合信息。
与传统提示以平面文本块呈现信息不同，LLM Wiki Prompt将每条知识视为独立笔记，带有自己的标识符和指向相关概念的链接。这种结构利用Transformer的注意力机制在想法之间建立明确关系，减少歧义并提高生成响应的连贯性。这一模式已在开发者和研究人员中广受欢迎，他们希望最大化大型语言模型上下文窗口的效用。
起源与推广
Andrej Karpathy是人工智能领域的杰出人物，曾任特斯拉AI总监，于2025年初通过其教育内容和社会媒体渠道引入了LLM Wiki Prompt概念。Karpathy以其在深度学习方面的工作和在OpenAI的角色而闻名，他展示了如何将Zettelkasten方法（一种由社会学家Niklas Luhmann开发的笔记系统）改编用于与大型语言模型交互。
Karpathy倡导这一模式源于他的观察，即模型常常难以处理冗长且无结构的提示。他认为，通过将信息呈现为链接笔记，模型可以更好地驾驭复杂主题，并在扩展对话中保持一致性。他的教程和示例迅速在AI社区传播，导致在学术和商业环境中被广泛采用。
技术实现
LLM Wiki Prompt依赖于一种模型能够可靠解析的特定格式约定。每条笔记通常包含标题、简洁文本正文，以及使用类似note-title语法的指向其他笔记的链接列表。提示本身由这些笔记的集合组成，通常前面有一段向模型解释格式的指令。
例如，关于机器学习的提示可能包含关于Neural network、Deep learning和Transformer (architecture)的笔记，每条笔记都包含指向其他笔记的链接。这种结构允许模型在生成响应时跟随链接，有效创建一个可以遍历的知识图。该方法特别适用于在包含类似markdown格式的大型语料库上训练的模型。
优势与应用场景
LLM Wiki Prompt的主要优势是改进上下文利用。通过将信息组织为离散且链接的单元，该模式减少了模型的认知负担，帮助其聚焦于相关细节。这对于涉及多步推理的任务尤其有用，例如Curriculum Learning或Sequence-to-Sequence (Seq2Seq)生成。
应用场景包括：
- 研究辅助：编译关于相关论文和发现的笔记，通过Multi-Head Attention或Residual Network (ResNet)等概念链接。
- 技术文档：为软件库或API创建互联指南。
- 创意写作：构建模型可参考的角色、设定和情节点的维基。
- 教育工具：通过链接到先修课程和高级主题来构建课程。
局限性与注意事项
尽管LLM Wiki Prompt功能强大，但也有局限性。其有效性取决于模型理解链接语法并正确遵循的能力。某些模型可能忽略链接或误解格式，导致响应不佳。此外，创建结构良好的维基需要前期投入和领域知识。
还存在上下文窗口大小的问题。虽然该模式改善了组织，但并未增加可包含的信息总量。对于非常大的知识库，用户可能需要优先选择包含哪些笔记，或使用检索增强生成技术。
未来方向
随着大型语言模型的持续发展，LLM Wiki Prompt可能成为提示工程工具包中的标准工具。研究人员正在探索自动化创建维基风格提示的方法，可能利用模型本身从原始文本生成链接笔记。与外部知识库和向量数据库的集成可能进一步增强该模式的能力。
Karpathy的贡献引发了关于如何为AI系统构建信息的更广泛讨论。LLM Wiki Prompt背后的原则，即模块化、明确关系和清晰性，很可能影响人机交互和知识管理领域的未来发展。