用于文献综述的主综合提示

该领域普遍认为，生成式人工智能已从实验室好奇心转变为可部署的创作工具，其能力在文本、图像和音频领域呈指数级增长，且这种增长受规模、数据和计算资源的驱动。人们广泛接受，当前模型通过预测性训练而非显式规则来学习表征，这使其在开放式任务中表现出色，但在可解释性方面存在根本性局限。 仍存在争议的是，关于“涌现能力”是否代表真正的认知飞跃，还是仅仅是对训练分布中统计规律的复杂重述。同样，关于模型是否真正“理解”语义，还是仅执行高级模式匹配，尚无共识。关于对齐技术（如RLHF）能否从根本上解决价值锁定问题，还是仅将风险转移到更隐蔽的形式，也存在分歧。 已被确证无疑的是，这些模型能生成与人类创作难以区分的内容，在标准化基准上超越人类平均水平，并能在零样本或少样本设置中泛化到未见任务。它们同样被证明会放大训练数据中的偏见，产生看似合理但错误的“幻觉”，并缺乏稳健的因果推理能力。此外，扩展定律在多个数量级上保持稳定，表明性能提升可预测，但收益递减。 最关键的未解问题是：我们能否设计出可验证的机制，使模型在生成过程中对其输出进行可靠的事实核查和道德推理，而不牺牲其生成灵活性，，即，我们能否在不破坏其核心优势的前提下，实现可证明的可靠性？