Laya는 2026년 9월 인도 케랄라주 카사라고드에 본사를 둔 스타트업 Convai Innovations가 출시한 오픈 가중치(open-weight) 인공지능 의사결정 모델이다. 이 회사는 Nandakishor M이 설립했으며, 모델은 Apache 2.0 라이선스로 배포되고 가중치는 Hugging Face에서 제공된다. Laya는 같은 달 출시된 TypeSafe AI의 폐쇄형 "System One" 의사결정 모델인 Jev에 대응하는 오픈소스이자 자체 호스팅 가능한 대안으로 자리매김하고 있다.
작동 방식
Laya는 비자기회귀적(non-autoregressive) 모델이다. 대규모 언어 모델처럼 토큰을 하나씩 생성하는 대신 분류를 수행한다. 상태 조각(이메일, 지원 티켓, 에이전트 추적 기록, JSON 객체)과 고정된 답변 집합을 가진 유형화된 질문 목록이 주어지면, 단일 순방향 패스에서 보정된 확률(calibrated probabilities) 과 함께 선택된 답변을 반환한다. 자유 형식 텍스트를 생성하지 않으므로 환각(hallucination)이 발생할 여지가 없고, 문장이나 JSON을 파싱할 필요도 없다. 다운스트림 코드는 유형화된 결과와 그 신뢰도에 따라 직접 분기한다.
주요 영어 체크포인트는 약 4억 2100만 개의 파라미터를 가진 ModernBERT-large 백본을 기반으로 하며, 비교적 저사양의 로컬 하드웨어에서도 실행할 수 있을 만큼 작다. 다국어 변형 모델은 100개 이상의 언어를 지원한다.
성능 주장
Convai는 단일 Tesla T4 GPU에서 중앙값(p50) 지연 시간이 약 32.8밀리초라고 보고한다. 이는 Jev의 호스팅 API에서 측정된 236~276ms와 비교하여, 자체 벤치마크 기준 약 7.8배의 속도 이점이며 자체 호스팅 시 추가 비용이 없다. Jev의 출시 수치와 마찬가지로, 이 수치는 공급업체 자체 평가에서 나온 것이며 출시 후 몇 주 동안 독립적인 검증은 제한적이었다.
프로젝트 자체에서도 인정한 중요한 주의사항은 다음과 같다. 기본 모델은 별도의 조정 없이 사용할 경우 의사결정 작업에서 무작위 수준에 가까운 성능을 보인다 - 주요 정확도 수치는 대상 작업에 대한 미세 조정(fine-tuning) 후에 달성된다. Laya는 제로샷(zero-shot)으로 바로 사용할 수 있는 모델이라기보다는, 작업 부하에 맞게 적응시켜 사용하는 개방형이자 효율적인 의사결정 모델 아키텍처로 이해하는 것이 가장 적절하다.
Laya와 Jev
Laya와 Jev는 다니엘 카너먼(Daniel Kahneman)의 《생각에 관한 생각》(Thinking, Fast and Slow)에서 언급된 빠르고 직관적인 "System 1"에서 이름을 따온, System One 모델이라고 불리는 새로운 범주를 정의하고 있다. 이 모델들은 대규모 언어 모델인 Large language model을 대체하는 것이 아니라 그와 나란히 사용되는, 고빈도·저지연 분류, 점수 산정, 라우팅 및 다음 단계 의사결정을 위해 설계된 모델이다. 두 모델의 주요 차이는 배포 방식에 있다. Jev는 폐쇄형 호스팅 API인 반면, Laya의 Apache-2.0 가중치는 로컬에서 실행할 수 있고(ONNX Runtime을 통한 Node.js/TypeScript 커뮤니티 런타임이 존재함), 자유롭게 미세 조정할 수 있으며, 호출당 비용 없이 배포할 수 있다.