Blog›Guides

Laya vs Jev: 오픈소스로 답하는 의사결정 모델 물결

TypeSafe가 Jev를 출시한 지 며칠 만에, Convai Innovations가 Laya를 선보였습니다: Apache 2.0 라이선스, 421M 파라미터의 의사결정 모델로, 100개 이상의 언어에서 33ms의 의사결정 속도를 주장합니다. 두 모델을 솔직하게 비교하면, 미세 조정(fine-tuning) 주의사항을 포함해 다음과 같습니다.

Laya 대 Jev: 결정 모델 물결에 대한 오픈소스 해답

지난주 AI 업계는 Jev를 만났습니다. TypeSafe AI의 비채팅 "System One" 모델로, 산문 대신 유형화된 결정을 반환합니다. 오픈 답변이 나오기까지 며칠이 걸렸습니다: Laya, 인도 케랄라주 카사라고드 출신 스타트업 Convai Innovations의 Apache 2.0, 오픈 가중치 결정 모델입니다. Jev가 이 카테고리를 흥미롭게 만들었다면, Laya는 모두가 접근 가능하게 만듭니다. 이것이 무엇인지, 두 모델이 어떻게 비교되는지, 그리고 주의할 점을 소개합니다.

Laya란 무엇인가

Laya는 비자기회귀 결정 모델입니다: 텍스트를 전혀 생성하지 않습니다. 상태 조각(이메일, 지원 티켓, 에이전트 추적, JSON 객체)과 고정 답변 세트가 있는 유형화된 질문을 입력하면, 단일 순방향 패스에서 보정된 확률과 함께 선택된 답변을 반환합니다. 토큰도, 산문도, 환각할 것도, JSON 파싱 실패도 없습니다.

주요 영어 체크포인트는 현대 기준으로 작습니다. ModernBERT-large 백본에 약 4억 2100만 파라미터로, 이것이 바로 핵심입니다: 적당한 로컬 하드웨어에서 실행되며, 다국어 변형은 100개 이상의 언어를 지원합니다.

Laya 대 Jev, 솔직하게

| | Jev (TypeSafe AI) | Laya (Convai Innovations) |

|---|---|---|

| 접근성 | 폐쇄형, 호스팅 API | Apache 2.0 오픈 가중치, 자체 호스팅 가능 |

| 지연 시간 (벤더 보고) | 호스팅 기준 ~236-276 ms | 단일 Tesla T4에서 ~33 ms p50 |

| 비용 | 호출당 API 가격 | 자체 호스팅 $0 |

| 언어 | 영어 중심 | 100개 이상 |

| 기본 상태 | 결정 작업에 튜닝됨 | 미세 조정 전까지 거의 무작위 |

두 가지 큰 주의 사항이 이 비교를 솔직하게 유지합니다:

모든 주요 수치는 벤더 벤치마크입니다. Jev의 "Claude보다 193배 빠름"은 TypeSafe 자체 평가에서 나왔고, Laya의 "Jev보다 7.8배 빠름"은 Convai의 것입니다. 독립적 검증은 양쪽 모두 부족합니다. 모든 숫자를 자체 워크로드에서 테스트할 주장으로 취급하세요.

Laya의 정확도는 미세 조정이 필요합니다. 프로젝트 자체가 기본 모델이 기본 상태에서 결정 작업에 대해 거의 무작위 점수를 낸다고 인정합니다. Jev는 API를 통해 작업 준비가 된 상태로 제공됩니다. Laya는 적응할 수 있는 효율적인 오픈 아키텍처로 제공됩니다. 이 차이는 사내에 훈련 데이터와 ML 역량이 있는지에 따라 크게 중요합니다.

이 카테고리가 중요한 이유

두 모델 모두 같은 아이디어에 베팅합니다. Kahneman의 System 1에서 이름을 따온 것으로, 대부분의 프로덕션 "AI" 작업은 개방형 글쓰기가 아니라 수백만 건의 빠르고 좁은 결정입니다 - 사기인지, 어떤 큐인지, 정책 위반인지, 다음 단계가 무엇인지. 작은 유형화된 분류기는 "JSON으로만 응답하라"고 요청받은 채팅 모델보다 더 저렴하고, 빠르고, 안정적으로 이러한 답변을 제공합니다.

떠오르는 스택은 다음과 같습니다:

생성 모델 (우리 카탈로그)에서 프롬프트하는 것들) - 창작과 추론용

결정 모델 (Jev, Laya) - 주변의 라우팅, 점수 매기기, 필터링용

어느 것을 시도해야 할까

설정 없이 작업 준비된 결정을 원하고 API 가격을 수용한다면: Jev.

미세 조정할 데이터가 있고, 로컬/프라이빗 추론, 다국어 지원, 또는 한계 비용 제로를 원한다면: Laya - 가중치는 Hugging Face에 있으며, ONNX를 통한 Node.js/TypeScript용 커뮤니티 런타임도 이미 존재합니다.

이미지, 비디오, 텍스트용으로만 프롬프트한다면: 둘 다 오늘 하는 일을 대체하지 않습니다 - 하지만 생성물 주변에 자동화를 구축 중이라면(출력 조정, 요청 라우팅, 결과 점수 매기기), 이 카테고리는 곧 도구 상자에서 가장 저렴한 도구가 될 것입니다.

전체 기술 분석은 위키에서 확인하세요: Laya 및 Jev.