Какво е Jev

Jev е модел за решения. Там, където езиковият модел пише текст, който после трябва да разбирате вие, Jev взема едно парче текст плюс карта от типизирани въпроси и връща по един типизиран отговор на въпрос — вероятност, именувана опция или позиция върху скала, всяка с прикачено калибрирано число. Прави го TypeSafe, достъпът е през HTTP API и не може да върне стойност извън набора, който сте определили.

Защо не е езиков модел

Езиковият модел произвежда токени; формата на онова, което се връща, е надежда, а не гаранция, и точно затова приложенията, които го използват за решения, накрая се увиват в разбор и повторни опити. Jev произвежда стойност от типа, който сте посочили. Няма какво да се разбира и няма развален случай за обработване — мястото на цикъла за повторни опити заема съвсем друг клон: онзи, който се задейства, когато моделът е несигурен, а това е далеч по-полезно да се знае.

Jev срещу голям езиков модел →

Три форми, и нищо друго

Числата

TypeSafe ги публикува; това са данните на доставчика, не наши измервания.

70–500 ms

отговор от край до край, срещу 3–329 s за челните модели

$0,042

на милион входни токена, изходът е безплатен

64k токена

контекст на заявка

безплатни

изходни токени

Въпроси

Какво е модел от System One?
Модел, построен за решения, а не за проза. Jev взема едно състояние плюс карта от типизирани въпроси и връща по един типизиран отговор на въпрос — без поток от токени, без нищо за разбор и без начин да издаде стойност извън набора, който си определил. Формулировката на TypeSafe е System One за бърза структурирана преценка, с обикновен голям езиков модел като System Two, когато наистина ти трябва език.
Какво означава увереността?
Отговорите Choice и Score носят стойност на увереност, изведена от вероятностното им разпределение: концентрирано означава сигурно, разпръснато — че моделът не може да раздели опциите. Това е втора ос — отговорът ти казва какво, увереността — дали да действаш. Отговорите Noul нямат поле за увереност, защото самата вероятност вече я носи: 0,51 е моделът, който казва, че не знае.
Може ли Jev да халюцинира?
Не и във формата на изхода си. Choice винаги може да върне само една от опциите, които си определил; Score може да попадне само вътре в твоята скала; Noul е число между 0 и 1. Все пак може да сгреши за текста ти — точно за това служи увереността.
Защо се казва Jev?
На името на икономиста Уилям Стенли Джевънс. Обявата на TypeSafe казва, че очакват машинният интелект да поеме по пътя на въглищата, след като парните машини станали ефективни — парадоксът на Джевънс, при който поевтиняването на нещо увеличава, а не намалява употребата му.
Мога ли да пусна Jev локално? Отворен код ли е?
Не. Jev е собственически хостван модел, достъпен през HTTP API на TypeSafe; няма публикувани тегла за изтегляне и едни и същи тегла обслужват всеки акаунт — няма дообучение или LoRA за клиент. Оформяш отговорите му през заявката: какво слагаш в състоянието и как пишеш инструкциите и критериите на всеки въпрос.
Колко бърз е Jev?
TypeSafe сочи 70–500 ms от край до край, срещу 3–329 секунди за челните модели, и 40–200× по-бързо при заявките, за които е построен. Това са числата на доставчика. Каквото този сайт може да каже от собствените си логове е, че заявка с девет въпроса обикновено се връща за няколкостотин милисекунди — всяка страница с резултат показва измереното време за конкретното повикване.
Колко струва Jev?
$0,042 на милион входни токена при jev-1.13.0, като изходът е безплатен — няма авторегресивно декодиране, което да се мери. Тъй като състоянието се прочита веднъж и всеки въпрос се оценява спрямо него паралелно, да питаш десет неща струва горе-долу колкото да питаш едно. Всяка страница с резултат на този сайт отпечатва броя токени и цената на точно това повикване.
Как е обучен Jev?
С това, което TypeSafe нарича RLCD — обучение с подкрепление за калибрирани решения. Заявената цел е различна от RLHF или RLVR: не отговори, които хората предпочитат, и не отговори, които минават проверка, а отговори, чиито вероятности са епистемично честни. Именно това прави увереността достойна за праг, а не декоративна.
Какви са ограниченията?
Само текст на входа — без изображения, звук или видео. 64k токена на заявка, от които състоянието плюс най-дългият единичен въпрос трябва да се съберат в 32k. Choice приема до 255 опции; Score приема от 2 до 10 нива. Ограниченията при ранен достъп са 250 000 токена в секунда и 1200 заявки в минута, а TypeSafe предупреждава, че се променят.
Как работи →

Насочи Jev към собствения си текст

Всеки пример на тази страница е начертан от истинско API повикване. Поставете свой текст и вижте как девет типизирани отговора се връщат от една заявка.

Отвори площадката