Paano ito gumagana

Ang buong kahilingan

Ikaw ang nagbibigay ng estado — anuman ang ipina-paste mo. Ang lente ang nagbibigay ng mga tanong. Nagbabalik si Jev ng isang may-uring sagot kada tanong, nakasusi sa parehong mga id.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Paano tumutugma ang mga tsart sa mga sagot

Choice → donut

Umaabot sa isa ang kabuuan ng mga probabilidad, kaya tapat ang singsing dito: totoong bahagi-sa-kabuuan ito. Inuulit ng leyenda ang bawat pagpipilian kasama ang eksaktong halaga, dahil mahina ang donut sa magkalapit na laban samantalang ang mga numero ay hindi.

Score → guhit ng rubrik

Ang guhit ay ang mga antas mo nang maayos; ang karayom ay ang halagang timbang sa probabilidad, kaya karaniwan itong napupunta sa pagitan ng dalawa. Ipinapakita ng mga baras sa ibaba kung paano kumakalat ang masa ng probabilidad — ang puntos na 2.0 mula sa makitid na tuktok at ang puntos na 2.0 mula sa dalawang magkalayong umbok ay magkaibang-magkaibang sagot.

Noul → metro

Isang ratio laban sa isang hangganan, kaya metro ang ibinibigay dito sa halip na tsart. Ang kulay-abong banda sa gitna ay nagmamarka kung saan sinasabi ng modelo, sa katunayan, na “hindi ko alam” — hindi dapat basahing oo ang 0.51.

Ang mga lente

Ang bawat lente ay isang nakapirming hanay lamang ng mga tanong na pinili para ipakita ang ibang bahagi ng kayang gawin ng Jev. Puwede ka ring gumawa ng sarili mo.

• X-ray ng mensahe

  Ano ba talaga ang hinihingi sa iyo ng mensaheng ito?

  9 tanong

• Pagsasala ng suporta

  Iruta ang tiket bago pa ito buksan ng tao.

  9 tanong

• Hadlang

  Salain ang isang prompt bago ito makarating sa modelo mo.

  9 tanong

• Pagpuna sa burador

  Siyam na pagbasa sa isang burador, bago mo ipadala.

  9 tanong

• Tagapagsalin ng review

  Ano ba talaga ang sinasabi sa iyo ng review ng customer.

  9 tanong

• Pagsasala ng ulat ng bug

  Lubha, sangkap, at kung may makakaulit nito.

  9 tanong

• Lente ng ulo ng balita

  Paano ibinabalangkas ang isang balita.

  9 tanong

• Pagsusuri ng pitch

  Magpapatuloy kayang magbasa ang isang namumuhunan o customer?

  9 tanong

Mga tanong

Ano ang modelong System One?

Isang modelong binuo para sa desisyon sa halip na prosa. Tumatanggap si Jev ng isang estado kasama ang mapa ng may-uring tanong at nagbabalik ng isang may-uring sagot kada tanong — walang tokens na dumadaloy, walang anumang i-parse, at walang paraan para makapaglabas ito ng halagang wala sa hanay na itinakda mo. Ang pagbabalangkas ng TypeSafe ay System One para sa mabilis at nakaayos na paghatol, na may karaniwang LLM bilang System Two kapag talagang kailangan mo ng wika.

Bakit isang kahilingan lang ang lahat?

Isang beses sinisipsip ni Jev ang estado at sabay-sabay nitong sinusuri ang bawat tanong laban dito. Ang sampung tanong sa isang tawag ay nagkakahalaga ng halos isang tawag na input token sa halip na sampu, at tumatagal nang halos katulad ng isa. Kaya naman ang bawat lente rito ay nagtatanong ng siyam na bagay nang sabay sa halip na maghabi ng magkakasunod na prompt.

Ano ang ibig sabihin ng kumpiyansa?

May dalang halaga ng kumpiyansa ang mga sagot na Choice at Score na hinango mula sa kanilang distribusyon ng probabilidad: ang nakatuon ay nangangahulugang tiyak, ang kumalat ay nangangahulugang hindi mapaghiwalay ng modelo ang mga pagpipilian. Pangalawang aksis ito — sinasabi ng sagot kung ano, sinasabi ng kumpiyansa kung dapat bang kumilos. Walang kumpiyansang field ang mga sagot na Noul, dahil dala na ito ng mismong probabilidad: ang 0.51 ay ang modelong nagsasabing hindi niya alam.

Puwede bang mag-hallucinate si Jev?

Hindi sa hugis ng output niya. Ang Choice ay makapagbabalik lamang ng isa sa mga pagpipiliang itinakda mo; ang Score ay makapupunta lamang sa loob ng rubrik mo; ang Noul ay isang numero sa pagitan ng 0 at 1. Puwede pa rin siyang magkamali tungkol sa teksto mo — at iyan mismo ang dahilan kung bakit may kumpiyansa.

Bakit Jev ang tawag dito?

Sunod sa pangalan ng ekonomistang si William Stanley Jevons. Sinasabi ng paglulunsad ng TypeSafe na inaasahan nilang susundan ng katalinuhan ng makina ang landas na tinahak ng karbon matapos maging episyente ang mga makinang de-singaw — ang kabalintunaan ni Jevons, kung saan ang pagpapamura sa paggamit ng isang bagay ay nagpapataas, sa halip na nagpapababa, ng dami ng paggamit dito.

Mapapatakbo ko ba si Jev nang lokal? Open source ba ito?

Hindi. Ang Jev ay pribadong pag-aaring modelong naka-host at inaabot sa pamamagitan ng HTTP API ng TypeSafe; walang inilathalang timbang na maida-download, at ang parehong timbang ang naglilingkod sa bawat account — hindi ito fine-tuned o LoRA-adapted kada customer. Hinuhubog mo ang mga sagot nito sa pamamagitan ng kahilingan: sa kung ano ang inilalagay mo sa estado, at sa kung paano mo isinusulat ang panuto at pamantayan ng bawat tanong.

Gaano kabilis si Jev?

Binabanggit ng TypeSafe ang 70–500 ms mula dulo hanggang dulo, laban sa 3–329 segundo para sa mga nangungunang modelo, at 40–200× na mas mabilis sa uri ng tanong na dito siya ginawa. Numero iyan ng vendor. Ang masasabi ng site na ito mula sa sarili nitong log ay karaniwang bumabalik ang kahilingang may siyam na tanong sa loob ng ilang daang milisegundo — ipinapakita ng bawat pahina ng resulta ang sinukat na oras ng balikan para sa mismong tawag na iyon.

Magkano ang Jev?

$0.042 kada milyong input token sa jev-1.13.0, libre ang output — walang autoregressive decoding na susukatin. Dahil isang beses lang binabasa ang estado at sabay-sabay na sinusuri ang bawat tanong laban dito, ang magtanong ng sampung bagay ay halos kasinghalaga lang ng magtanong ng isa. Inilalathala ng bawat pahina ng resulta sa site na ito ang bilang ng token at ang halaga ng mismong tawag na iyon.

Paano sinanay si Jev?

Sa tinatawag ng TypeSafe na RLCD — reinforcement learning para sa kalibradong desisyon. Iba ang nakasaad na layunin kaysa sa RLHF o RLVR: hindi mga sagot na gusto ng tao, at hindi mga sagot na pumapasa sa isang checker, kundi mga sagot na ang mga probabilidad ay epistemikong tapat. Iyan ang dahilan kung bakit karapat-dapat lagyan ng threshold ang kumpiyansa sa halip na maging palamuti lamang.

Ano ang mga hangganan?

Teksto lamang ang pumapasok — walang larawan, audio o video. 64k token kada kahilingan, kung saan ang estado kasama ang pinakamahabang isahang tanong ay dapat kasya sa 32k. Tumatanggap ang Choice ng hanggang 255 pagpipilian; tumatanggap ang Score ng 2 hanggang 10 antas. Ang rate limit sa maagang akses ay 250,000 token bawat segundo at 1,200 kahilingan bawat minuto, at nagbababala ang TypeSafe na nagbabago ang mga ito.

Ano ang nangyayari sa ipina-paste ko?

Ipinapadala ito sa TypeSafe para suriin at iniimbak sa database ng site na ito para magkaroon ng permanenteng link ang resulta. Lumalabas ang pampublikong takbo sa Tuklasin at sa mga search engine. Iniimbak din ang mga hindi nakalistang takbo, pero inilalayo sa Tuklasin at sa sitemap at inihahain nang may noindex header — gumagana pa rin ang link para sa sinumang bibigyan mo. Alinman ang piliin: huwag mag-paste ng anumang sensitibo, pampublikong demo ito.

Anong mga wika ang sinasalita ng site na ito?

Ang interface, ang aklatan ng lente at bawat pahinang nagpapaliwanag ay inilalathala sa 32 wika, pinipili mula sa header o mula sa setting ng wika ng browser mo. Ang ipina-paste mo ay nananatiling eksakto sa pagkasulat mo, at binabasa ito ni Jev sa kung anong wika ito nakasulat — ang mga tanong sa likod ng bawat lente ay ipinapadala sa Ingles sa lahat ng wika, kaya iisa ang kahulugan ng isang takbo anuman ang paraan ng paggawa dito.

Pinapatakbo ba ito ng TypeSafe?

Hindi. Ang Dejev ay malayang demo na itinayo para ipakita kung ano ang hitsura ng output ni Jev kapag iginuhit mo ito. Sa TypeSafe ang modelo, ang API at ang dokumentasyon.

Lumalim pa

Ang modelo, ang presyo, ang mga magaspang na gilid at isang mahabang istante ng cookbook ay nasa sariling dokumentasyon ng TypeSafe.