Che cos’è Jev?

Perché non è un modello linguistico

Un LLM produce token; la forma di ciò che torna è una speranza, non una garanzia, ed è per questo che le applicazioni che lo usano per decidere finiscono avvolte in parsing e ritentativi. Jev produce un valore del tipo che hai specificato. Non c’è nulla da analizzare né alcun caso malformato da gestire: al posto del ciclo di ritentativi arriva un ramo che scatta quando il modello è incerto, che è un’altra cosa e assai più utile da sapere.

Tre forme, e nient’altro

I numeri

Li pubblica TypeSafe; sono cifre del fornitore, non nostre misurazioni.

Domande

Che cos’è un modello Sistema Uno?

Un modello costruito per decisioni anziché per prosa. Jev prende uno state più una mappa di domande tipizzate e restituisce una risposta tipizzata per domanda — nessun token in streaming, nulla da analizzare e nessun modo di emettere un valore fuori dall’insieme che hai definito. L’inquadramento di TypeSafe è Sistema Uno per il giudizio strutturato e rapido, con un LLM ordinario come Sistema Due quando serve davvero il linguaggio.

Che cosa significa la confidenza?

Le risposte Choice e Score portano un valore di confidenza derivato dalla loro distribuzione di probabilità: concentrata significa certo, sparsa significa che il modello non riesce a separare le opzioni. È un secondo asse — la risposta ti dice cosa, la confidenza ti dice se agire. Le risposte Noul non hanno un campo di confidenza, perché la probabilità stessa lo porta già: 0,51 è il modello che dice di non saperlo.

Jev può allucinare?

Non nella forma del suo output. Un Choice può restituire solo una delle opzioni che hai definito; uno Score può cadere solo dentro la tua griglia; un Noul è un numero fra 0 e 1. Può comunque sbagliarsi sul tuo testo — ed è esattamente a questo che serve la confidenza.

Perché si chiama Jev?

Da William Stanley Jevons, l’economista. Il post di lancio di TypeSafe dice che si aspettano che l’intelligenza artificiale segua la strada presa dal carbone dopo che le macchine a vapore divennero efficienti — il paradosso di Jevons, per cui rendere qualcosa più economico da usare ne aumenta il consumo invece di ridurlo.

Posso eseguire Jev in locale? È open source?

No. Jev è un modello proprietario ospitato, raggiungibile tramite l’API HTTP di TypeSafe; non ci sono pesi pubblicati da scaricare, e gli stessi pesi servono ogni account — non c’è messa a punto né adattamento LoRA per cliente. Le risposte si modellano attraverso la richiesta: ciò che metti nello state e come scrivi istruzioni e criteri di ogni domanda.

Quanto è veloce Jev?

TypeSafe dichiara 70–500 ms end to end, contro 3–329 secondi dei modelli di frontiera, e 40–200× più veloce sul tipo di query per cui è costruito. Sono cifre del fornitore. Ciò che questo sito può dire dai propri registri è che una richiesta da nove domande torna di solito in poche centinaia di millisecondi — ogni pagina di risultato mostra l’andata e ritorno misurato di quella specifica chiamata.

Quanto costa Jev?

0,042 $ per milione di token in ingresso su jev-1.13.0, con l’uscita gratuita — non c’è decodifica autoregressiva da contare. Poiché lo state viene letto una volta e ogni domanda viene valutata in parallelo, chiedere dieci cose costa all’incirca quanto chiederne una. Ogni pagina di risultato di questo sito stampa il numero di token e il costo di quella chiamata esatta.

Come è stato addestrato Jev?

Con quello che TypeSafe chiama RLCD — apprendimento per rinforzo per decisioni calibrate. L’obiettivo dichiarato è diverso da RLHF o RLVR: non risposte che le persone preferiscono né risposte che passano un controllo, ma risposte le cui probabilità siano epistemicamente oneste. È questo che rende la confidenza degna di una soglia invece che decorativa.

Quali sono i limiti?

Solo testo — niente immagini, audio o video. 64k token per richiesta, di cui lo state più la domanda più lunga devono stare in 32k. Un Choice accetta fino a 255 opzioni; uno Score accetta da 2 a 10 livelli. I limiti di frequenza in accesso anticipato sono 250.000 token al secondo e 1.200 richieste al minuto, e TypeSafe avverte che cambiano.