Czym jest Jev?

Dlaczego to nie jest model językowy

LLM produkuje tokeny; kształt tego, co wraca, jest nadzieją, nie gwarancją — i właśnie dlatego aplikacje używające go do decyzji kończą owinięte parsowaniem i ponowieniami. Jev produkuje wartość typu, który podałeś. Nie ma czego parsować ani jakiego zniekształconego przypadku obsługiwać — pętlę ponowień zastępuje gałąź uruchamiana wtedy, gdy model jest niepewny, a to zupełnie inna i znacznie użyteczniejsza wiadomość.

Trzy kształty i nic poza tym

Liczby

Publikuje je TypeSafe; to dane producenta, nie nasze pomiary.

Pytania

Czym jest model Systemu Pierwszego?

Modelem zbudowanym do decyzji, a nie do prozy. Jev bierze jeden state plus mapę typowanych pytań i zwraca po jednej typowanej odpowiedzi na pytanie — żadnych strumieniowanych tokenów, niczego do sparsowania i żadnej możliwości wypluwania wartości spoza zbioru, który zdefiniowałeś. TypeSafe ujmuje to tak: System Pierwszy do szybkiego, ustrukturyzowanego osądu, a zwykły LLM jako System Drugi, kiedy naprawdę potrzebujesz języka.

Co oznacza pewność?

Odpowiedzi Choice i Score niosą wartość pewności wyprowadzoną z ich rozkładu prawdopodobieństwa: skupiony znaczy pewny, rozlany znaczy, że model nie potrafi rozdzielić opcji. To druga oś — odpowiedź mówi ci co, pewność mówi, czy działać. Odpowiedzi Noul nie mają pola pewności, bo samo prawdopodobieństwo już ją niesie: 0,51 to model mówiący, że nie wie.

Czy Jev może halucynować?

Nie w kształcie swojego wyjścia. Choice może zwrócić wyłącznie jedną z opcji, które zdefiniowałeś; Score może wylądować wyłącznie w twojej skali; Noul to liczba między 0 a 1. Wciąż może się mylić co do twojego tekstu — i właśnie po to jest pewność.

Skąd nazwa Jev?

Od Williama Stanleya Jevonsa, ekonomisty. Wpis premierowy TypeSafe mówi, że spodziewają się, iż inteligencja maszynowa pójdzie drogą, którą poszedł węgiel po tym, jak maszyny parowe stały się wydajne — paradoks Jevonsa, w którym potanienie użycia czegoś zwiększa zużycie, zamiast je zmniejszać.

Czy mogę uruchomić Jeva lokalnie? Czy to otwarte źródło?

Nie. Jev to zamknięty, hostowany model dostępny przez API HTTP TypeSafe; nie ma opublikowanych wag do pobrania, a te same wagi obsługują każde konto — nie ma dostrajania ani adaptacji LoRA na klienta. Odpowiedzi kształtujesz przez żądanie: to, co wkładasz w state, i to, jak piszesz instrukcje oraz kryteria każdego pytania.

Jak szybki jest Jev?

TypeSafe podaje 70–500 ms od końca do końca, wobec 3–329 sekund dla modeli z czołówki, i 40–200× szybciej przy zapytaniach, do których został zbudowany. To liczby producenta. To, co ta strona może powiedzieć z własnych logów, to że żądanie z dziewięcioma pytaniami zwykle wraca w kilkaset milisekund — każda strona wyniku pokazuje zmierzony czas przelotu tego konkretnego wywołania.

Ile kosztuje Jev?

0,042 $ za milion tokenów wejściowych na jev-1.13.0, wyjście za darmo — nie ma autoregresyjnego dekodowania, które trzeba by liczyć. Ponieważ state jest czytany raz, a każde pytanie oceniane równolegle, zapytanie o dziesięć rzeczy kosztuje mniej więcej tyle, co zapytanie o jedną. Każda strona wyniku na tej stronie drukuje liczbę tokenów i koszt dokładnie tego wywołania.

Jak wytrenowano Jeva?

Metodą, którą TypeSafe nazywa RLCD — uczeniem przez wzmacnianie dla skalibrowanych decyzji. Deklarowany cel różni się od RLHF czy RLVR: nie odpowiedzi, które ludzie wolą, ani odpowiedzi przechodzące jakiś sprawdzian, lecz odpowiedzi, których prawdopodobieństwa są epistemicznie uczciwe. To właśnie sprawia, że na pewności warto stawiać próg, a nie traktować jej dekoracyjnie.

Jakie są ograniczenia?

Tylko tekst — żadnych obrazów, dźwięku ani wideo. 64 tys. tokenów na żądanie, z czego state plus najdłuższe pojedyncze pytanie muszą zmieścić się w 32 tys. Choice przyjmuje do 255 opcji; Score od 2 do 10 poziomów. Limity we wczesnym dostępie to 250 000 tokenów na sekundę i 1200 żądań na minutę, a TypeSafe ostrzega, że się zmieniają.