Dejev

Ako to funguje

Dejev je tenký vizuálny obal okolo jedného volania API. Všetko na stránke výsledku pochádza z jediného POST /v1/systemone.

Celá požiadavka

State dodávate vy — čokoľvek vložíte. Otázky dodáva šošovka. Jev vracia po jednej typovanej odpovedi na otázku pod tými istými identifikátormi.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Ako grafy zodpovedajú odpovediam

Choice → prstenec
Pravdepodobnosti dávajú v súčte jednotku, takže prstenec je tu poctivý: je to naozaj vzťah časti k celku. Legenda opakuje každú možnosť s presnou hodnotou, pretože prstenec je zlý na tesné výsledky a čísla nie.
Score → pás stupnice
Pás sú vaše úrovne v poradí; ručička stojí na hodnote váženej pravdepodobnosťou, a preto obvykle padne medzi dve z nich. Stĺpce pod ním ukazujú, ako je rozprestretá pravdepodobnostná hmota — 2,0 z úzkeho vrcholu a 2,0 z dvoch vzdialených hrbov sú veľmi odlišné odpovede.
Noul → ukazovateľ
Jeden pomer voči hranici, takže dostane ukazovateľ, nie graf. Sivý pruh uprostred označuje miesto, kde model fakticky hovorí „neviem“ — 0,51 by sa nikdy nemalo čítať ako áno.

Šošovky

Každá šošovka je len pevná sada otázok zvolená tak, aby ukázala inú časť toho, čo Jev vie. Môžete si napísať aj vlastnú.

  • Röntgen správy

    Čo od vás táto správa vlastne chce?

    9 otázok

  • Triedenie podpory

    Nasmerujte tiket skôr, než ho vôbec niekto otvorí.

    9 otázok

  • Zábrana

    Preseťte prompt skôr, než dorazí k vášmu modelu.

    9 otázok

  • Kritika konceptu

    Deväť rozborov konceptu, skôr než ho odošlete.

    9 otázok

  • Dekodér recenzií

    Čo vám zákaznícka recenzia naozaj hovorí.

    9 otázok

  • Triedenie chybových hlásení

    Závažnosť, komponent a či to niekto dokáže zopakovať.

    9 otázok

  • Šošovka titulkov

    Ako je správa zarámovaná.

    9 otázok

  • Kontrola pitchu

    Čítal by investor alebo zákazník ďalej?

    9 otázok

Otázky

Čo je model Systému 1?
Model postavený pre rozhodnutia, nie pre prózu. Jev berie jeden state plus mapu typovaných otázok a vracia po jednej typovanej odpovedi na otázku — žiadne streamované tokeny, nič na parsovanie a žiadny spôsob, ako vydať hodnotu mimo množiny, ktorú ste určili. TypeSafe to rámuje takto: Systém 1 pre rýchly štruktúrovaný úsudok a bežný LLM ako Systém 2, keď naozaj potrebujete jazyk.
Prečo všetko beží v jedinej požiadavke?
Jev vstrebe state raz a vyhodnotí proti nemu všetky otázky súbežne. Desať otázok v jednom volaní stojí zhruba vstupné tokeny jedného volania namiesto desiatich a trvá zhruba tak dlho ako jedno. Preto sa každá šošovka tu pýta na deväť vecí naraz namiesto reťazenia promptov.
Čo znamená istota?
Odpovede Choice a Score nesú hodnotu istoty odvodenú z rozdelenia pravdepodobnosti: sústredené znamená isté, rozprestreté znamená, že model nedokáže možnosti oddeliť. Je to druhá os — odpoveď hovorí čo, istota hovorí, či konať. Odpovede Noul pole istoty nemajú, lebo ju nesie už samotná pravdepodobnosť: 0,51 je model, ktorý hovorí, že nevie.
Môže Jev halucinovať?
Nie v tvare svojho výstupu. Choice môže vrátiť len jednu z možností, ktoré ste určili; Score môže padnúť len dovnútra vašej stupnice; Noul je číslo medzi 0 a 1. Ohľadom vášho textu sa mýliť môže — a presne na to je istota.
Prečo sa volá Jev?
Po ekonómovi Williamovi Stanleym Jevonsovi. Uvádzací príspevok TypeSafe hovorí, že očakávajú, že strojová inteligencia pôjde cestou, ktorou po zefektívnení parných strojov prešlo uhlie — Jevonsovým paradoxom, podľa ktorého zlacnenie používania niečoho zvyšuje spotrebu, namiesto aby ju znižovalo.
Môžem Jev spustiť lokálne? Je otvorený?
Nie. Jev je proprietárny hostovaný model dostupný cez HTTP API TypeSafe; nie sú zverejnené váhy na stiahnutie a tie isté váhy obsluhujú každý účet — žiadne doladenie ani adaptácia LoRA na zákazníka. Odpovede tvarujete požiadavkou: tým, čo dáte do state, a tým, ako píšete inštrukcie a kritériá každej otázky.
Aký rýchly je Jev?
TypeSafe uvádza 70–500 ms od konca ku koncu proti 3–329 sekundám pri špičkových modeloch a 40–200× rýchlejšie pri dopytoch, pre ktoré je postavený. To sú čísla dodávateľa. Čo tento web môže povedať z vlastných záznamov: požiadavka s deviatimi otázkami sa zvyčajne vráti do niekoľkých stoviek milisekúnd — každá stránka výsledku ukazuje nameraný čas odozvy práve toho volania.
Koľko Jev stojí?
0,042 $ za milión vstupných tokenov na jev-1.13.0, výstup zadarmo — nie je žiadne autoregresívne dekódovanie, ktoré by sa dalo merať. Keďže sa state číta raz a každá otázka sa vyhodnocuje súbežne, spýtať sa na desať vecí stojí zhruba toľko ako spýtať sa na jednu. Každá stránka výsledku na tomto webe vypíše počet tokenov a cenu práve toho volania.
Ako bol Jev trénovaný?
Tým, čomu TypeSafe hovorí RLCD — posilňovaným učením pre kalibrované rozhodnutia. Deklarovaný cieľ sa líši od RLHF aj RLVR: nie odpovede, ktoré ľudia uprednostňujú, ani odpovede, ktoré prejdú kontrolou, ale odpovede, ktorých pravdepodobnosti sú epistemicky poctivé. Práve preto má zmysel na istotu nasadiť prah, a nie ju brať ako ozdobu.
Aké sú limity?
Len text — žiadne obrázky, zvuk ani video. 64k tokenov na požiadavku, z toho state plus najdlhšia jednotlivá otázka sa musia zmestiť do 32k. Choice berie až 255 možností; Score berie 2 až 10 úrovní. Limity v skorom prístupe sú 250 000 tokenov za sekundu a 1200 požiadaviek za minútu a TypeSafe upozorňuje, že sa menia.
Čo sa stane s tým, čo vložím?
Odošle sa na vyhodnotenie do TypeSafe a uloží sa do databázy tohto webu, aby mal výsledok trvalý odkaz. Verejné behy sa objavia v Prehliadať a vo vyhľadávačoch. Neuvedené behy sa tiež ukladajú, ale zostávajú mimo Prehliadať aj mapy webu a odovzdávajú sa s hlavičkou noindex — odkaz ďalej funguje pre každého, komu ho dáte. Tak či tak nevkladajte nič citlivé: toto je verejné demo.
Akými jazykmi tento web hovorí?
Rozhranie, knižnica šošoviek aj každá vysvetľujúca stránka vychádzajú v 32 jazykoch, ktoré vyberiete v hlavičke alebo sa prevezmú z nastavení prehliadača. To, čo vložíte, zostane presne tak, ako ste to napísali, a Jev to číta v jazyku, v ktorom to je — otázky za každou šošovkou sa vo všetkých jazykoch posielajú po anglicky, takže beh znamená to isté, nech bol urobený akokoľvek.
Prevádzkuje to TypeSafe?
Nie. Dejev je nezávislé demo postavené na to, aby ukázalo, ako výstup Jevu vyzerá, keď ho nakreslíte. Model, API aj dokumentácia patria TypeSafe.

Ísť hlbšie

Model, ceny, hrubé hrany a dlhá polica kuchárok sú všetky v dokumentácii samotného TypeSafe.

Jev verzus LLM Dokumentácia TypeSafe Referencia API