Blog›Guides

Laya 对比 Jev:决策模型浪潮的开源答案

TypeSafe发布Jev几天后,Convai Innovations推出了Laya:一个基于Apache 2.0、拥有421M参数的决策模型,声称能在100多种语言中实现33毫秒的决策。两者如何比较,说实话,包括微调方面的注意事项。

Laya 对比 Jev:决策模型浪潮的开源答案

Laya 对比 Jev:决策模型浪潮的开源答案

上周,AI 界认识了 Jev,这是 TypeSafe AI 推出的非聊天式“系统一”模型,它返回类型化决策而非散文。几天后,一个开源答案出现了:Laya,这是来自印度喀拉拉邦卡萨拉戈德的一家初创公司 Convai Innovations 推出的 Apache 2.0 开源权重决策模型。如果说 Jev 让这个类别变得有趣,那么 Laya 则让它对所有人都触手可及。以下是它是什么、两者如何比较,以及需要注意什么。

Laya 是什么

Laya 是一个非自回归决策模型:它完全不生成文本。你向它输入一段状态(一封邮件、一个支持工单、一个代理轨迹、一个 JSON 对象)以及带有固定答案集的类型化问题,它会在单次前向传播中返回带有校准概率的选定答案。没有 token,没有散文,没有可幻觉的内容,也没有 JSON 解析失败。

主英文检查点按现代标准来说很小,大约在 ModernBERT-large 骨干上有4.21 亿参数,这正是关键所在:它可以在适度的本地硬件上运行,而多语言变体覆盖100 多种语言。

Laya 对比 Jev,实话实说

| | Jev (TypeSafe AI) | Laya (Convai Innovations) |

|---|---|---|

| 访问方式 | 封闭,托管 API | Apache 2.0 开源权重,可自托管 |

| 延迟(供应商报告) | 托管约 236-276 毫秒 | 单张 Tesla T4 上约 33 毫秒 p50 |

| 成本 | 按调用计费的 API 定价 | 自托管 $0 |

| 语言 | 以英语为主 | 100 多种 |

| 开箱即用 | 针对决策任务调优 | 接近随机,直到你微调它 |

两个重要提醒让这个对比保持诚实:

  • 所有头条数字都是供应商基准。 Jev 的“比 Claude 快 193 倍”来自 TypeSafe 自己的评估;Laya 的“比 Jev 快 7.8 倍”来自 Convai 的。两者的独立验证都很薄弱。把每个数字都当作一个声明,在你自己的工作负载上自行测试。
  • Laya 的准确性需要微调。 项目本身承认基础模型在开箱即用的决策任务上得分接近随机。Jev 通过其 API 开箱即用;Laya 则是一个你需要适配的高效开源架构。这个差异很重要,取决于你是否有训练数据和内部 ML 能力。
  • 为什么这个类别很重要

    两个模型都押注于同一个想法,以卡尼曼的系统一命名:大多数生产环境中的“AI”工作不是开放式写作,而是数百万个快速、狭窄的决策,,这是欺诈吗,进哪个队列,这是否违反政策,下一步是什么。一个微小的类型化分类器能比要求“仅以 JSON 响应”的聊天模型更便宜、更快、更可靠地回答这些问题。

    新兴的技术栈看起来是这样的:

  • 生成模型(你可以从我们的目录中提示的那些)用于创作和推理
  • 决策模型(Jev, Laya)用于围绕它们的路由、评分和过滤
  • 你应该尝试哪一个

  • 你想要零设置、开箱即用的决策,并接受 API 定价: Jev。
  • 你有数据可以微调,想要本地/私有推理、多语言覆盖或零边际成本: Laya,,权重在 Hugging Face 上,社区运行时已经通过 ONNX 支持 Node.js/TypeScript。
  • 你只是为图像、视频或文本生成提示: 两者都不会替代你今天的任何工作,,但如果你正在围绕你的生成内容构建自动化(审核输出、路由请求、评分结果),这个类别即将成为你工具箱中最便宜的工具。
  • 完整的技术细节在我们的 wiki 中:Laya 和 Jev。

    Tags
    laya·jev·decision-model·open-source·convai·system-one·ai-news·comparison