Hogyan működik

A teljes kérés

Te adod az állapotot — bármit, amit beillesztesz. A lencse adja a kérdéseket. A Jev kérdésenként egy tipizált választ ad vissza, ugyanazokkal az azonosítókkal kulcsolva.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Hogyan felelnek meg az ábrák a válaszoknak

Choice → fánkdiagram

A valószínűségek összege egy, ezért a gyűrű itt őszinte: valódi rész-egész viszony. A jelmagyarázat minden lehetőséget megismétel a pontos értékével, mert a fánk rosszul mutatja a szoros eseteket, a számok viszont jól.

Score → skálasáv

A sáv a szintjeid sorrendben; a mutató a valószínűséggel súlyozott érték, ezért esik általában kettő közé. Az alatta lévő oszlopok mutatják, hogyan oszlik el a valószínűségi tömeg — egy 2,0-s pontszám szűk csúcsból és egy 2,0-s pontszám két távoli púpból nagyon különböző válasz.

Noul → mérőműszer

Egyetlen arány egy határhoz mérve, ezért kap mérőműszert diagram helyett. A közép körüli szürke sáv jelöli, hol mondja a modell lényegében azt, hogy „nem tudom” — egy 0,51-et soha nem szabad igennek olvasni.

A lencsék

Minden lencse egy rögzített kérdéskészlet, amely a Jev tudásának más-más részét mutatja meg. Sajátot is írhatsz.

• Üzenetröntgen

  Mit kér tőled valójában ez az üzenet?

  9 kérdés

• Ügyfélszolgálati triázs

  Irányítsd a jegyet, mielőtt ember egyáltalán megnyitná.

  9 kérdés

• Védőkorlát

  Szűrj meg egy promptot, mielőtt a modelledhez ér.

  9 kérdés

• Piszkozatkritika

  Kilenc olvasat egy piszkozatról, mielőtt elküldenéd.

  9 kérdés

• Véleménydekóder

  Mit mond neked valójában egy vásárlói vélemény.

  9 kérdés

• Hibabejelentés-triázs

  Súlyosság, komponens, és hogy bárki reprodukálni tudja-e.

  9 kérdés

• Címlencse

  Hogyan keretezik a hírt.

  9 kérdés

• Pitch-ellenőrzés

  Olvasná tovább egy befektető vagy egy ügyfél?

  9 kérdés

Kérdések

Mi az a System One modell?

Olyan modell, amelyet döntésekre építettek, nem prózára. A Jev egy állapotot és tipizált kérdések térképét kapja, és kérdésenként egy tipizált választ ad vissza — nincs tokenfolyam, nincs mit elemezni, és nem tud az általad megadott halmazon kívüli értéket kiadni. A TypeSafe megfogalmazásában a System One a gyors, strukturált ítéletalkotás, mellette egy hagyományos LLM a System Two, ha tényleg nyelvre van szükséged.

Miért fut minden egyetlen kérésben?

A Jev egyszer veszi magába az állapotot, és minden kérdést párhuzamosan értékel ki rajta. Tíz kérdés egy hívásban nagyjából egy hívásnyi bemeneti tokenbe kerül tíz helyett, és nagyjából annyi ideig tart, mint egy. Ezért kérdez itt minden lencse egyszerre kilenc dolgot, prompt-láncok helyett.

Mit jelent a bizonyosság?

A Choice és a Score válaszok a valószínűségi eloszlásukból származó bizonyossági értéket hoznak: a koncentrált eloszlás biztosat jelent, a szétterülő azt, hogy a modell nem tudja szétválasztani a lehetőségeket. Ez egy második tengely — a válasz megmondja, mi az, a bizonyosság azt, hogy érdemes-e cselekedni. A Noul válaszoknak nincs bizonyossági mezőjük, mert azt már maga a valószínűség hordozza: a 0,51 azt jelenti, hogy a modell nem tudja.

Hallucinálhat a Jev?

A kimenete alakjában nem. Egy Choice csak az általad megadott lehetőségek egyikét adhatja vissza; egy Score csak a skáládon belülre eshet; egy Noul 0 és 1 közötti szám. Attól még tévedhet a szövegeddel kapcsolatban — pontosan ezért van a bizonyosság.

Miért hívják Jevnek?

William Stanley Jevons közgazdász után. A TypeSafe bejelentése szerint arra számítanak, hogy a gépi intelligencia azt az utat járja be, amit a szén a gőzgépek hatékonnyá válása után — ez a Jevons-paradoxon, amelyben valami olcsóbbá tétele nem csökkenti, hanem növeli a felhasználását.

Futtatható a Jev helyben? Nyílt forráskódú?

Nem. A Jev zárt forrású, felhőben futó modell, amely a TypeSafe HTTP API-ján át érhető el; nincsenek letölthető, közzétett súlyok, és ugyanazok a súlyok szolgálnak ki minden fiókot — nincs ügyfelenkénti finomhangolás vagy LoRA. A válaszait a kérésen keresztül alakítod: azzal, amit az állapotba teszel, és azzal, hogyan írod meg az egyes kérdések utasításait és kritériumait.

Milyen gyors a Jev?

A TypeSafe 70–500 ms-ot ad meg végponttól végpontig, szemben a határmodellek 3–329 másodpercével, és 40–200-szoros gyorsaságot azon a kérdéstípuson, amelyre épült. Ezek a gyártó számai. Amit ez az oldal a saját naplóiból mondhat: egy kilenc kérdéses kérés jellemzően néhány száz ezredmásodperc alatt tér vissza — minden eredményoldal mutatja az adott hívás mért oda-vissza idejét.

Mennyibe kerül a Jev?

0,042 $ millió bemeneti tokenenként a jev-1.13.0-n, a kimenet pedig ingyenes — nincs autoregresszív dekódolás, amit mérni kellene. Mivel az állapot egyszer olvasódik be, és minden kérdés párhuzamosan értékelődik ki rajta, tíz dolgot kérdezni nagyjából annyiba kerül, mint egyet. Ezen az oldalon minden eredményoldal kiírja az adott hívás tokenszámát és költségét.

Hogyan tanították a Jevet?

Azzal, amit a TypeSafe RLCD-nek nevez — megerősítéses tanulás kalibrált döntésekre. A kitűzött cél más, mint az RLHF-é vagy az RLVR-é: nem olyan válaszok, amelyeket az emberek jobban szeretnek, és nem olyanok, amelyek átmennek egy ellenőrzőn, hanem olyanok, amelyek valószínűségei ismeretelméletileg őszinték. Ettől lesz a bizonyosság küszöbölésre érdemes, nem pusztán dísz.

Mik a korlátok?

Csak szöveg megy be — nincs kép, hang vagy videó. Kérésenként 64k token, amelyből az állapotnak és a leghosszabb kérdésnek együtt 32k-ba kell férnie. Egy Choice legfeljebb 255 lehetőséget vesz; egy Score 2–10 szintet. A korai hozzáférés sebességkorlátja másodpercenként 250 000 token és percenként 1200 kérés, és a TypeSafe figyelmeztet, hogy ezek változnak.

Mi történik azzal, amit beillesztek?

Elküldjük a TypeSafe-nek kiértékelésre, és eltároljuk az oldal adatbázisában, hogy az eredménynek állandó linkje legyen. A nyilvános futtatások megjelennek a Böngészés alatt és a keresőkben. A nem listázott futtatásokat is tároljuk, de kimaradnak a Böngészésből és az oldaltérképből, és noindex fejléccel szolgáljuk ki őket — a link továbbra is működik annak, akinek megadod. Mindkét esetben: ne illessz be érzékeny adatot, ez nyilvános bemutató.

Milyen nyelveken beszél ez az oldal?

A felület, a lencsekönyvtár és minden magyarázó oldal 32 nyelven jelenik meg, a fejlécből vagy a böngésződ nyelvi beállításából választva. Amit beillesztesz, pontosan úgy marad, ahogy megírtad, és a Jev azon a nyelven olvassa, amelyen van — az egyes lencsék mögötti kérdések minden nyelven angolul mennek el, így egy futtatás ugyanazt jelenti, bárhogyan is készült.

A TypeSafe üzemelteti ezt?

Nem. A Dejev független bemutató, azért készült, hogy megmutassa, hogyan néz ki a Jev kimenete, ha lerajzolod. A modell, az API és a dokumentáció a TypeSafe-é.

Mélyebbre

A modell, az árazás, az élek és egy hosszú polcnyi szakácskönyv mind a TypeSafe saját dokumentációjában van.