O que é o Jev?

Por que não é um modelo de linguagem

Um LLM produz tokens; o formato do que volta é uma esperança, não uma garantia, e é por isso que aplicações que o usam para decidir acabam embrulhadas em parsing e novas tentativas. O Jev produz um valor do tipo que você especificou. Não há nada para analisar nem caso malformado para tratar — o que substitui o laço de novas tentativas é um ramo que dispara quando o modelo está incerto, e isso é outra coisa, bem mais útil de saber.

Três formatos, e nada além

Os números

A TypeSafe publica estes; são números do fornecedor, não medições nossas.

Perguntas

O que é um modelo Sistema Um?

Um modelo feito para decisões, não para prosa. O Jev recebe um state mais um mapa de perguntas tipadas e devolve uma resposta tipada por pergunta — sem tokens em streaming, sem nada para parsear e sem jeito de emitir um valor fora do conjunto que você definiu. O enquadramento da TypeSafe é Sistema Um para o julgamento estruturado e rápido, com um LLM comum como Sistema Dois quando você realmente precisa de linguagem.

O que significa a confiança?

Respostas de Choice e Score trazem um valor de confiança derivado da distribuição de probabilidade: concentrada significa certeza, espalhada significa que o modelo não consegue separar as opções. É um segundo eixo — a resposta diz o quê, a confiança diz se vale agir. Respostas Noul não têm campo de confiança, porque a própria probabilidade já carrega isso: 0,51 é o modelo dizendo que não sabe.

O Jev pode alucinar?

Não na forma da saída. Um Choice só pode devolver uma das opções que você definiu; um Score só pode cair dentro da sua rubrica; um Noul é um número entre 0 e 1. Ele ainda pode errar sobre o seu texto — que é exatamente para isso que serve a confiança.

Por que o nome Jev?

Em homenagem a William Stanley Jevons, o economista. O post de lançamento da TypeSafe diz que eles esperam que a inteligência de máquina siga o caminho que o carvão seguiu depois que as máquinas a vapor ficaram eficientes — o paradoxo de Jevons, em que baratear o uso de algo aumenta o quanto se usa em vez de diminuir.

Dá para rodar o Jev localmente? É código aberto?

Não. O Jev é um modelo proprietário hospedado, acessado pela API HTTP da TypeSafe; não há pesos publicados para baixar, e os mesmos pesos atendem todas as contas — não há fine-tuning nem adaptação LoRA por cliente. Você molda as respostas pela requisição: o que coloca no state e como escreve as instruções e os critérios de cada pergunta.

Quão rápido é o Jev?

A TypeSafe cita 70–500 ms de ponta a ponta, contra 3–329 segundos de modelos de fronteira, e 40–200× mais rápido no tipo de consulta para a qual foi feito. São números do fornecedor. O que este site pode dizer a partir dos próprios registros é que uma requisição de nove perguntas costuma voltar em algumas centenas de milissegundos — cada página de resultado mostra a ida e volta medida daquela chamada específica.

Quanto custa o Jev?

US$ 0,042 por milhão de tokens de entrada no jev-1.13.0, com saída gratuita — não há decodificação autorregressiva para medir. Como o state é lido uma vez e todas as perguntas são avaliadas em paralelo, perguntar dez coisas custa aproximadamente o que custa perguntar uma. Cada página de resultado deste site imprime a contagem de tokens e o custo daquela chamada exata.

Como o Jev foi treinado?

Com o que a TypeSafe chama de RLCD — aprendizado por reforço para decisões calibradas. O objetivo declarado é diferente de RLHF ou RLVR: não respostas que as pessoas prefiram nem respostas que passem num verificador, mas respostas cujas probabilidades sejam epistemicamente honestas. É isso que faz valer a pena colocar limiares sobre a confiança em vez de tratá-la como enfeite.

Quais são os limites?

Só texto — nada de imagens, áudio ou vídeo. 64k tokens por requisição, dos quais o state mais a pergunta mais longa precisam caber em 32k. Um Choice aceita até 255 opções; um Score aceita de 2 a 10 níveis. Os limites de taxa no acesso antecipado são 250.000 tokens por segundo e 1.200 requisições por minuto, e a TypeSafe avisa que eles mudam.