前沿模型是一种人工智能系统,几乎总是大型基础模型,代表了当前能力的最前沿,通常在广泛任务上超越任何先前广泛部署的模型的表现。与大语言模型或Transformer等更技术性的术语不同,前沿模型主要是一个政策和治理术语,用于识别哪些系统需要加强审查,因为其能力进步的速度超过了机构能够充分评估或监管的速度。
术语起源
该术语大约在2023年开始流行,当时包括OpenAI、Anthropic和Google DeepMind在内的实验室成立了前沿模型论坛,这是一个专注于最强大模型的安全研究和最佳实践的行业机构。政策文件,包括英国人工智能安全研究所的工作以及2023年人工智能安全峰会后的布莱切利宣言,采用了类似的语言来界定国际协调工作应优先考虑哪些系统,通常以非常大的训练计算量或已展示的能力来定义,这些能力可能在网络安全或生物武器设计等领域构成风险。
特征
前沿模型通常不是由固定的技术阈值来定义,而是由相对位置来定义:如果一个模型在通用任务上的当前能力处于或接近顶尖水平,则被视为前沿模型,这通常通过基准测试和社区评估平台(如LMArena)非正式地衡量。前沿地位本质上是暂时的,因为一个在发布时处于前沿的模型通常会在几个月内被竞争对手或后继者超越;该标签描述的是模型在某一时间点的位置,而非永久类别。训练这些系统的前沿实验室包括OpenAI、Anthropic、Google DeepMind、Meta AI、xAI,以及越来越多的中国实验室,如DeepSeek和阿里巴巴的Qwen团队。
政策相关性
由于前沿模型是首批展现新能力的系统,它们成为部署前测试方面自愿和监管承诺的焦点,例如几家实验室采用的负责任扩展政策,这些政策将额外的安全措施与能力阈值挂钩。欧盟人工智能法案同样为具有系统性风险的通用人工智能模型设立了特殊义务,部分通过计算量阈值来实施,这反映了与前沿模型概念相同的潜在关切:少数异常强大的系统需要比更小或更窄的人工智能产品更严格的审查。
争议
对该术语的批评者认为,它可能充当营销标签,暗示实验室的实际做法可能并不匹配的领导力或安全意识,并且仅凭能力来定义风险忽视了模型的部署方式和部署者。其他人指出,将监管注意力狭窄地集中在前沿模型上,可能会使基于略微落后或开放权重模型构建的远为大量的应用受到较少审查,尽管这些系统一旦广泛部署也可能构成类似风险。尽管存在争议,截至2025年,该术语仍是人工智能治理讨论中的标准简称。