虚构（Confabulation）是指在没有有意识欺骗意图的情况下，产生捏造、歪曲或误解的记忆或叙事。在人类心理学中，这是一种记忆错误，大脑用看似合理但错误的信息填补记忆空白，且通常以真实的信念呈现。在人工智能领域，特别是在大型语言模型中，虚构指的是生成流畅、连贯但事实错误的文本，而模型将其呈现为真实内容。这一现象与说谎不同，因为无论是人类还是人工智能都没有故意误导的意图；错误源于潜在的认知或计算过程。
该术语源自临床神经心理学，最初用于描述患有失忆症或脑损伤的患者产生虚假记忆的情况。随着时间的推移，这一概念已扩展到描述健康个体以及近期的生成式人工智能系统中的类似行为。在这两种背景下，虚构都突显了记忆的建构性质以及语言生成的概率基础，引发了关于可靠性、信任和知识界限的重要问题。
人类记忆中的机制
人类记忆并非完美的记录设备，而是一个重构过程。在回忆事件时，大脑会拼凑存储信息的碎片，并根据先验知识、期望和情绪状态进行推断来填补空白。这种重构可能导致虚构，尤其是当原始记忆痕迹较弱或模糊时。神经心理学研究表明，虚构在额叶或海马体受损的个体中更为常见，这些区域对记忆检索和监控至关重要。例如，患有科萨科夫综合征的患者（通常与长期饮酒有关）经常虚构详尽的故事以掩盖记忆缺失。在健康人群中，虚构可能在压力、疲劳或暗示性提问下发生，正如经典目击者证词研究所展示的那样。
人工智能系统中的虚构
在人工智能中，虚构源于神经网络的架构和深度学习模型的训练过程。大型语言模型被训练为基于大规模文本语料库中的模式预测序列中的下一个词元。在推理过程中，它们通过从可能延续的概率分布中采样来生成文本。这种概率机制本身并不区分真实与虚假陈述；它只追求语言上的合理性。因此，模型可能产生自信、语法正确且语境恰当但事实错误的响应。这种行为在人工智能文献中有时被称为“幻觉”，但当输出是连贯叙事而非随机错误时，虚构是更精确的术语。
原因与促成因素
多种因素增加了人工智能系统中虚构的可能性。包含不准确、偏见或矛盾的训练数据可能被学习并再现。模型的温度参数（控制采样中的随机性）也起作用：较高的温度导致更多样但可能不太准确的输出。此外，模型缺乏基于事实的知识库或实时验证，意味着它无法检查自身陈述的真实性。与访问外部数据库的检索增强系统相比，独立模型仅依赖其内部参数，这些参数编码统计模式而非验证过的事实。2017年引入的Transformer架构使这些模型能够处理长距离依赖，但并未解决事实可靠性的根本问题。
影响与缓解策略
虚构对人工智能在高风险领域（如医疗保健、法律建议、教育和客户服务）的部署具有重大影响。一个自信地提供错误医疗信息或法律引用的模型可能造成实际伤害。为缓解这一问题，开发者采用多种策略。一种方法是基于人工智能反馈的强化学习，即训练模型偏好真实响应。另一种是在生成过程中纳入外部知识源或事实核查机制。模型剪枝和在精选数据集上进行微调也可以通过使模型更接近可靠信息来减少虚构。然而，没有方法能完全消除这一问题，截至2020年代中期，虚构仍是机器学习和生成式人工智能中的一个活跃研究领域。
区分虚构与相关概念
虚构常与其他术语混淆，但存在重要区别。与谎言不同，虚构不涉及欺骗意图；说话者或模型相信输出是真实的。它与简单错误不同，因为虚构叙事内部一致且具有说服力，而简单错误可能是随机的或易于纠正的。在人工智能中，虚构有时与“幻觉”互换使用，但幻觉也可以指无意义或离题的输出，而虚构特指看似合理的虚假陈述。理解这些差异对于开发评估指标和用户界面至关重要，以适当传达人工智能生成内容的可靠性。
未来方向
关于虚构的研究正在多个前沿推进。认知科学家正在研究人类记忆重构如何为人工智能设计提供信息，可能引导模型更好地区分记忆事实与推断猜测。在人工智能领域，努力集中在改进损失函数以惩罚事实不准确、开发数据增强技术以让模型接触多样化的真实陈述，以及创建衡量虚构率的基准。像OpenAI、Anthropic和Google DeepMind这样的公司已发表关于减少幻觉的研究，尽管具体技术的公开文档仍然有限。随着人工智能系统日益融入日常生活，解决虚构问题对于建立信任和确保负责任使用至关重要。