Какво е Jev
Jev е модел за решения. Там, където езиковият модел пише текст, който после трябва да разбирате вие, Jev взема едно парче текст плюс карта от типизирани въпроси и връща по един типизиран отговор на въпрос — вероятност, именувана опция или позиция върху скала, всяка с прикачено калибрирано число. Прави го TypeSafe, достъпът е през HTTP API и не може да върне стойност извън набора, който сте определили.
Защо не е езиков модел
Езиковият модел произвежда токени; формата на онова, което се връща, е надежда, а не гаранция, и точно затова приложенията, които го използват за решения, накрая се увиват в разбор и повторни опити. Jev произвежда стойност от типа, който сте посочили. Няма какво да се разбира и няма развален случай за обработване — мястото на цикъла за повторни опити заема съвсем друг клон: онзи, който се задейства, когато моделът е несигурен, а това е далеч по-полезно да се знае.
Jev срещу голям езиков модел →Три форми, и нищо друго
Noul
Noul е един от трите типа въпроси в модела Jev на TypeSafe. Задава един въпрос с да/не и отговаря с вероятността отговорът да е да, като число от 0 до 1.
Choice
Choice е един от трите типа въпроси в модела Jev на TypeSafe. Избира точно една опция от набор, който ти определяш, и връща победителя, вероятност за всяка опция и стойност на увереност.
Score
Score е един от трите типа въпроси в модела Jev на TypeSafe. Оценява входа спрямо подредени нива, които ти написваш, и връща претеглена по вероятност стойност, която може да попадне между две нива.
Числата
TypeSafe ги публикува; това са данните на доставчика, не наши измервания.
отговор от край до край, срещу 3–329 s за челните модели
на милион входни токена, изходът е безплатен
контекст на заявка
изходни токени
Въпроси
- Какво е модел от System One?
- Модел, построен за решения, а не за проза. Jev взема едно състояние плюс карта от типизирани въпроси и връща по един типизиран отговор на въпрос — без поток от токени, без нищо за разбор и без начин да издаде стойност извън набора, който си определил. Формулировката на TypeSafe е System One за бърза структурирана преценка, с обикновен голям езиков модел като System Two, когато наистина ти трябва език.
- Какво означава увереността?
- Отговорите Choice и Score носят стойност на увереност, изведена от вероятностното им разпределение: концентрирано означава сигурно, разпръснато — че моделът не може да раздели опциите. Това е втора ос — отговорът ти казва какво, увереността — дали да действаш. Отговорите Noul нямат поле за увереност, защото самата вероятност вече я носи: 0,51 е моделът, който казва, че не знае.
- Може ли Jev да халюцинира?
- Не и във формата на изхода си. Choice винаги може да върне само една от опциите, които си определил; Score може да попадне само вътре в твоята скала; Noul е число между 0 и 1. Все пак може да сгреши за текста ти — точно за това служи увереността.
- Защо се казва Jev?
- На името на икономиста Уилям Стенли Джевънс. Обявата на TypeSafe казва, че очакват машинният интелект да поеме по пътя на въглищата, след като парните машини станали ефективни — парадоксът на Джевънс, при който поевтиняването на нещо увеличава, а не намалява употребата му.
- Мога ли да пусна Jev локално? Отворен код ли е?
- Не. Jev е собственически хостван модел, достъпен през HTTP API на TypeSafe; няма публикувани тегла за изтегляне и едни и същи тегла обслужват всеки акаунт — няма дообучение или LoRA за клиент. Оформяш отговорите му през заявката: какво слагаш в състоянието и как пишеш инструкциите и критериите на всеки въпрос.
- Колко бърз е Jev?
- TypeSafe сочи 70–500 ms от край до край, срещу 3–329 секунди за челните модели, и 40–200× по-бързо при заявките, за които е построен. Това са числата на доставчика. Каквото този сайт може да каже от собствените си логове е, че заявка с девет въпроса обикновено се връща за няколкостотин милисекунди — всяка страница с резултат показва измереното време за конкретното повикване.
- Колко струва Jev?
- $0,042 на милион входни токена при jev-1.13.0, като изходът е безплатен — няма авторегресивно декодиране, което да се мери. Тъй като състоянието се прочита веднъж и всеки въпрос се оценява спрямо него паралелно, да питаш десет неща струва горе-долу колкото да питаш едно. Всяка страница с резултат на този сайт отпечатва броя токени и цената на точно това повикване.
- Как е обучен Jev?
- С това, което TypeSafe нарича RLCD — обучение с подкрепление за калибрирани решения. Заявената цел е различна от RLHF или RLVR: не отговори, които хората предпочитат, и не отговори, които минават проверка, а отговори, чиито вероятности са епистемично честни. Именно това прави увереността достойна за праг, а не декоративна.
- Какви са ограниченията?
- Само текст на входа — без изображения, звук или видео. 64k токена на заявка, от които състоянието плюс най-дългият единичен въпрос трябва да се съберат в 32k. Choice приема до 255 опции; Score приема от 2 до 10 нива. Ограниченията при ранен достъп са 250 000 токена в секунда и 1200 заявки в минута, а TypeSafe предупреждава, че се променят.
Насочи Jev към собствения си текст
Всеки пример на тази страница е начертан от истинско API повикване. Поставете свой текст и вижте как девет типизирани отговора се връщат от една заявка.
Отвори площадката