Що таке Jev

Чому це не мовна модель

Мовна модель породжує токени; форма того, що повернеться, — це надія, а не гарантія, і саме тому застосунки, які використовують її для рішень, зрештою обростають розбором і повторами. Jev породжує значення того типу, який ви вказали. Розбирати нічого, і опрацьовувати зіпсований випадок не треба — місце циклу повторів посідає зовсім інша гілка: та, що спрацьовує, коли модель не впевнена, а це значно корисніше знання.

Три форми, і більше нічого

Цифри

Їх публікує TypeSafe; це дані постачальника, а не наші вимірювання.

Запитання

Що таке модель Системи 1?

Модель, побудована для рішень, а не для прози. Jev бере один state плюс карту типізованих запитань і повертає по одній типізованій відповіді на запитання: жодних потокових токенів, нічого не треба розбирати і немає способу видати значення поза заданим вами набором. Формулювання TypeSafe таке: Система 1 для швидкого структурованого судження, а звичайна мовна модель як Система 2, коли вам справді потрібна мова.

Що означає впевненість?

Відповіді Choice і Score несуть значення впевненості, виведене з їхнього розподілу ймовірностей: зосереджений означає «певен», розмазаний — що модель не може розділити варіанти. Це друга вісь: відповідь каже, що саме, впевненість — чи варто діяти. У відповідей Noul поля впевненості немає, бо сама ймовірність уже її несе: 0,51 — це модель, яка каже, що не знає.

Чи може Jev галюцинувати?

Не у формі виводу. Choice може повернути лише один із заданих вами варіантів; Score може потрапити лише всередину вашої шкали; Noul — число від 0 до 1. Помилитися щодо вашого тексту він усе ще може — саме для цього й потрібна впевненість.

Чому він називається Jev?

На честь економіста Вільяма Стенлі Джевонса. В анонсі TypeSafe сказано, що вони очікують від машинного інтелекту того самого шляху, який пройшло вугілля після того, як парові машини стали ефективними, — парадоксу Джевонса, за яким здешевлення використання чогось збільшує споживання, а не зменшує його.

Чи можна запустити Jev локально? Він відкритий?

Ні. Jev — пропрієтарна розміщена модель, доступна через HTTP-API TypeSafe; опублікованих ваг для завантаження немає, і ті самі ваги обслуговують усі облікові записи: жодного донавчання чи LoRA-адаптації під клієнта. Відповіді ви формуєте запитом: тим, що кладете у state, і тим, як пишете інструкції та критерії кожного запитання.

Наскільки швидкий Jev?

TypeSafe називає 70–500 мс від початку до кінця проти 3–329 секунд у передових моделей і в 40–200 разів швидше на тих запитах, для яких його побудовано. Це цифри постачальника. Що цей сайт може сказати за власними журналами: запит із дев’яти запитань зазвичай повертається за кілька сотень мілісекунд, і на кожній сторінці результату показано виміряний час оберту саме того виклику.

Скільки коштує Jev?

$0,042 за мільйон вхідних токенів на jev-1.13.0, вивід безкоштовний — авторегресивне декодування рахувати не треба. Оскільки state читається один раз, а всі запитання оцінюються паралельно, спитати десять речей коштує приблизно стільки ж, скільки спитати одну. Кожна сторінка результату на цьому сайті друкує кількість токенів і вартість саме того виклику.

Як навчали Jev?

Тим, що TypeSafe називає RLCD, — навчанням з підкріпленням для відкаліброваних рішень. Заявлена мета відрізняється від RLHF чи RLVR: не відповіді, які подобаються людям, і не відповіді, що проходять перевірку, а відповіді, ймовірності яких епістемічно чесні. Саме тому на впевненість варто ставити поріг, а не вважати її прикрасою.

Які обмеження?

Лише текст: ні зображень, ні аудіо, ні відео. 64 тис. токенів на запит, з яких state плюс найдовше запитання мають уміститися в 32 тис. Choice приймає до 255 варіантів; Score — від 2 до 10 рівнів. Ліміти раннього доступу — 250 000 токенів на секунду і 1200 запитів на хвилину, і TypeSafe попереджає, що вони змінюються.