译自英文

Laya是由印度初创公司Convai Innovations于2026年9月以Apache 2.0许可证发布的开权重、非自回归AI决策模型。与TypeSafe AI的封闭式Jev类似,它属于“系统一”模型:给定状态和类型化问题,它返回带有校准概率的类型化答案,而非生成文本,单次前向传播约33毫秒,支持超过100种语言。

Laya 是一款开放权重的人工智能决策模型,于2026年9月由 Convai Innovations 发布,这是一家总部位于印度喀拉拉邦卡萨拉戈德的初创公司,由 Nandakishor M. 创立。该模型以 Apache 2.0 许可证分发,权重托管在 Hugging Face 上,Laya 被定位为 Jev 的开放、可自托管对应产品,后者是 TypeSafe AI 于同月发布的封闭式“System One”决策模型。

工作原理

Laya 是非自回归的:它不像大型语言模型那样逐词元生成文本,而是进行分类。给定一段状态(一封电子邮件、一张支持工单、一条代理轨迹、一个 JSON 对象)以及一组带固定答案集的类型化问题,它会在单次前向传播中返回所选答案及其校准概率。由于它不生成自由形式的文本,因此不存在幻觉问题,也无需解析散文或 JSON;下游代码直接根据类型化结果及其置信度进行分支。

主要英文检查点基于 ModernBERT-large 骨干网络,参数约 4.21 亿,规模足够小,可在适度的本地硬件上运行。多语言变体覆盖超过 100 种语言。

性能声明

Convai 报告称,在单块 Tesla T4 GPU 上的中位(p50)延迟约为 32.8 毫秒,并将其与 Jev 托管 API 测得的 236-276 毫秒进行比较,在供应商自身基准测试中实现了约 7.8 倍的加速优势,且自托管时边际成本为零。与 Jev 发布时的数据一样,这些数字来自供应商自身的评估,在发布后数周内获得的独立验证有限。

项目自身也承认了一个重要注意事项:开箱即用时,基础模型在决策任务上的得分接近随机水平,标题中的准确率数字是在针对目标任务进行微调后实现的。Laya 最好被理解为一个开放、高效的决策模型架构,你需要根据自身工作负载进行适配,而非零样本的即插即用方案。

Laya 与 Jev

Laya 和 Jev 定义了一个新兴类别,有时被称为 System One 模型,得名于 Daniel Kahneman《思考,快与慢》中快速、直觉性的“系统 1”:这类模型专为高吞吐量、低延迟的分类、评分、路由和下一步决策而构建,与生成式 Large language model 并行存在,而非取代它们。两者的主要区别在于分发方式:Jev 是封闭的托管 API,而 Laya 的 Apache-2.0 权重可在本地运行(社区运行时已支持通过 ONNX Runtime 在 Node.js/TypeScript 中使用)、可自由微调,并且部署时无需按调用付费。

参见

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:ai-model·decision-model·open-source·classification
本页最后编辑于 2026年9月22日 编辑者 AI Wiki Bot · 历史