Blog›Guides

Laya vs. Jev: Die Open-Source-Antwort auf die Entscheidungsmodell-Welle

Tage nachdem TypeSafe Jev auf den Markt brachte, lieferte Convai Innovations Laya aus: ein Apache-2.0-Entscheidungsmodell mit 421M Parametern, das 33ms-Entscheidungen in über 100 Sprachen beansprucht. Wie die beiden ehrlich im Vergleich abschneiden, einschließlich des Fine-Tuning-Vorbehalts.

Laya vs. Jev: Die Open-Source-Antwort auf die Entscheidungsmodell-Welle

Laya vs Jev: Die Open-Source-Antwort auf die Entscheidungsmodell-Welle

Letzte Woche lernte die KI-Welt Jev kennen, TypeSafe AIs Nicht-Chat-"System One"-Modell, das typisierte Entscheidungen statt Prosa zurückgibt. Es dauerte Tage, bis eine offene Antwort erschien: Laya, ein Apache-2.0-Entscheidungsmodell mit offenen Gewichten von Convai Innovations, einem Startup aus Kasaragod, Kerala, Indien. Wenn Jev die Kategorie interessant machte, macht Laya sie für alle zugänglich. Hier ist, was es ist, wie die beiden sich vergleichen und worauf man achten sollte.

Was Laya ist

Laya ist ein nicht-autoregressives Entscheidungsmodell: Es erzeugt überhaupt keinen Text. Du gibst ihm einen Zustandsausschnitt (eine E-Mail, ein Support-Ticket, eine Agenten-Trace, ein JSON-Objekt) plus typisierte Fragen mit festen Antwortmengen, und es gibt die gewählten Antworten mit kalibrierten Wahrscheinlichkeiten in einem einzigen Forward-Pass zurück. Keine Tokens, keine Prosa, nichts zu halluzinieren, keine JSON-Parsing-Fehler.

Der Haupt-Checkpoint für Englisch ist nach modernen Maßstäben klein, etwa 421 Millionen Parameter auf einem ModernBERT-large-Backbone, und genau das ist der Punkt: Er läuft auf bescheidener lokaler Hardware, und eine mehrsprachige Variante deckt 100+ Sprachen ab.

Laya vs Jev, ehrlich

| | Jev (TypeSafe AI) | Laya (Convai Innovations) |

|---|---|---|

| Zugang | Geschlossen, gehostete API | Apache 2.0 offene Gewichte, selbst hostbar |

| Latenz (vom Anbieter gemeldet) | ~236-276 ms gehostet | ~33 ms p50 auf einer einzelnen Tesla T4 |

| Kosten | Preis pro API-Aufruf | $0 selbst gehostet |

| Sprachen | Englisch-fokussiert | 100+ |

| Out of the box | Für Entscheidungsaufgaben abgestimmt | Nahezu zufällig, bis du es feinabstimmst |

Zwei große Einschränkungen halten das ehrlich:

  • Alle Schlagzeilenzahlen sind Anbieter-Benchmarks. Jevs "193x schneller als Claude" stammt aus TypeSafes eigenen Evals; Layas "7.8x schneller als Jev" stammt von Convai. Unabhängige Verifikation ist für beide dünn. Behandle jede Zahl als eine Behauptung, die du an deiner eigenen Arbeitslast testen solltest.
  • Layas Genauigkeit erfordert Feinabstimmung. Das Projekt selbst räumt ein, dass das Basismodell bei Entscheidungsaufgaben out of the box nahezu zufällig abschneidet. Jev kommt über seine API aufgabentauglich an; Laya kommt als effiziente offene Architektur, die du anpasst. Dieser Unterschied zählt stark, je nachdem, ob du Trainingsdaten und ML-Kompetenz im Haus hast.
  • Warum diese Kategorie zählt

    Beide Modelle setzen auf dieselbe Idee, benannt nach Kahnemans System 1: Der Großteil der produktiven "KI"-Arbeit ist kein offenes Schreiben, sondern Millionen schneller, enger Entscheidungen - ist das Betrug, welche Warteschlange, verstößt das gegen die Richtlinie, was ist der nächste Schritt. Ein winziger typisierter Klassifikator beantwortet diese billiger, schneller und zuverlässiger als ein Chat-Modell, das gebeten wird, "nur in JSON zu antworten".

    Der entstehende Stack sieht so aus:

  • Generative Modelle (die, die du aus unserem Katalog) für Kreation und Reasoning promptest
  • Entscheidungsmodelle (Jev, Laya) für das Routing, Scoring und Filtern um sie herum
  • Welches du ausprobieren solltest

  • Du willst Null-Setup, aufgabentaugliche Entscheidungen und akzeptierst API-Preise: Jev.
  • Du hast Daten zum Feinabstimmen, willst lokale/private Inferenz, mehrsprachige Abdeckung oder null Grenzkosten: Laya - die Gewichte sind auf Hugging Face, und Community-Runtimes existieren bereits für Node.js/TypeScript über ONNX.
  • Du promptest nur für Bilder, Video oder Text: Keines von beiden ersetzt etwas, das du heute tust - aber wenn du Automatisierung um deine Generierungen herum baust (Ausgaben moderieren, Anfragen routen, Ergebnisse bewerten), wird diese Kategorie bald das billigste Werkzeug in deiner Box sein.
  • Vollständige technische Aufschlüsselungen in unserem Wiki: Laya und Jev.

    Tags
    laya·jev·decision-model·open-source·convai·system-one·ai-news·comparison