Sådan virker det

Hele forespørgslen

Du leverer tilstanden — hvad du end indsætter. Linsen leverer spørgsmålene. Jev returnerer ét typet svar pr. spørgsmål, nøglet med de samme id’er.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Sådan svarer diagrammerne til svarene

Choice → donut

Sandsynlighederne summer til én, så en ring er ærlig her: det er et ægte del-af-helhed. Forklaringen gentager hver mulighed med dens præcise værdi, for en donut er dårlig til tætte løb, og det er tallene ikke.

Score → kriteriestribe

Striben er dine niveauer i rækkefølge; viseren er den sandsynlighedsvægtede værdi, og derfor lander den som regel mellem to af dem. Søjlerne nedenunder viser, hvordan sandsynlighedsmassen fordeler sig — en score på 2,0 fra en smal top og en score på 2,0 fra to fjerne pukler er meget forskellige svar.

Noul → måler

Ét forhold op mod en grænse, så den får en måler frem for et diagram. Det grå bånd omkring midten markerer, hvor modellen reelt siger „det ved jeg ikke“ — 0,51 bør aldrig læses som et ja.

Linserne

Hver linse er bare et fast sæt spørgsmål, valgt for at vise en anden del af, hvad Jev kan. Du kan også skrive dine egne.

• Beskedrøntgen

  Hvad beder denne besked dig egentlig om?

  9 spørgsmål

• Supportsortering

  Dirigér en sag, før et menneske overhovedet åbner den.

  9 spørgsmål

• Værn

  Sigt en prompt, før den når din model.

  9 spørgsmål

• Udkastkritik

  Ni aflæsninger på et udkast, før du sender det.

  9 spørgsmål

• Anmeldelsesafkoder

  Hvad en kundeanmeldelse i virkeligheden fortæller dig.

  9 spørgsmål

• Fejlrapportsortering

  Alvor, komponent og om nogen kan reproducere det.

  9 spørgsmål

• Overskriftslinse

  Hvordan en nyhed bliver rammesat.

  9 spørgsmål

• Pitchtjek

  Ville en investor eller en kunde læse videre?

  9 spørgsmål

Spørgsmål

Hvad er en System One-model?

En model bygget til beslutninger frem for prosa. Jev tager én tilstand plus et kort over typede spørgsmål og returnerer ét typet svar pr. spørgsmål — ingen strømmede tokens, intet at tolke, og ingen måde at afgive en værdi uden for det sæt, du definerede. TypeSafes ramme er System One til hurtig struktureret dømmekraft, med en almindelig sprogmodel som System Two, når du faktisk har brug for sprog.

Hvorfor kører alt i én enkelt forespørgsel?

Jev optager tilstanden én gang og vurderer hvert spørgsmål mod den parallelt. Ti spørgsmål i ét kald koster cirka ét kalds inputtokens i stedet for ti og tager omtrent lige så lang tid som ét. Derfor stiller hver linse her ni ting på én gang i stedet for at kæde prompts sammen.

Hvad betyder tillid?

Choice- og Score-svar bærer en tillidsværdi udledt af deres sandsynlighedsfordeling: koncentreret betyder sikker, spredt betyder, at modellen ikke kan adskille mulighederne. Det er en anden akse — svaret siger hvad, tilliden siger, om du bør handle. Noul-svar har ikke noget tillidsfelt, for sandsynligheden bærer det allerede: 0,51 er modellen, der siger, at den ikke ved det.

Kan Jev hallucinere?

Ikke i formen på sit output. En Choice kan kun returnere en af de muligheder, du definerede; en Score kan kun lande inden for dit kriterium; en Noul er et tal mellem 0 og 1. Den kan stadig tage fejl om din tekst — og det er præcis det, tilliden er til for.

Hvorfor hedder den Jev?

Efter økonomen William Stanley Jevons. TypeSafes lanceringsopslag siger, at de forventer, at maskinintelligens følger den vej, kul tog, efter at dampmaskiner blev effektive — Jevons-paradokset, hvor noget, der bliver billigere at bruge, bliver brugt mere frem for mindre.

Kan jeg køre Jev lokalt? Er den open source?

Nej. Jev er en proprietær, hostet model, der tilgås over TypeSafes HTTP-API; der er ingen offentliggjorte vægte at hente, og de samme vægte betjener hver konto — den finjusteres ikke og LoRA-tilpasses ikke pr. kunde. Du former dens svar gennem forespørgslen i stedet: hvad du lægger i tilstanden, og hvordan du skriver hvert spørgsmåls instruktioner og kriterier.

Hvor hurtig er Jev?

TypeSafe angiver 70–500 ms fra ende til ende, mod 3–329 sekunder for frontmodeller, og 40–200× hurtigere på den slags forespørgsler, den er bygget til. Det er leverandørens tal. Hvad dette site kan sige ud fra sine egne logfiler er, at en forespørgsel med ni spørgsmål typisk kommer tilbage på nogle hundrede millisekunder — hver resultatside viser den målte tur-retur-tid for netop det kald.

Hvad koster Jev?

0,042 $ pr. million inputtokens på jev-1.13.0, med output gratis — der er ingen autoregressiv afkodning at måle. Fordi tilstanden læses én gang, og hvert spørgsmål vurderes mod den parallelt, koster ti spørgsmål omtrent det samme som ét. Hver resultatside på dette site udskriver antallet af tokens og prisen for netop det kald.

Hvordan blev Jev trænet?

Med det, TypeSafe kalder RLCD — forstærkningslæring til kalibrerede beslutninger. Det erklærede mål er et andet end RLHF og RLVR: ikke svar, folk foretrækker, eller svar, der består en kontrol, men svar, hvis sandsynligheder er epistemisk ærlige. Det er dét, der gør tillid værd at sætte tærskel på frem for dekorativ.

Hvad er grænserne?

Kun tekst ind — ingen billeder, lyd eller video. 64k tokens pr. forespørgsel, hvoraf tilstanden plus det længste enkeltspørgsmål skal kunne være i 32k. En Choice tager op til 255 muligheder; en Score tager 2 til 10 niveauer. Hastighedsgrænserne i tidlig adgang er 250.000 tokens i sekundet og 1.200 forespørgsler i minuttet, og TypeSafe advarer om, at de flytter sig.

Hvad sker der med det, jeg indsætter?

Det sendes til TypeSafe til vurdering og gemmes i dette sites database, så resultatet får et permanent link. Offentlige kørsler vises i Udforsk og i søgemaskiner. Kørsler, der ikke er opført, gemmes også, men holdes ude af Udforsk og sitemappet og serveres med en noindex-header — linket virker stadig for dem, du giver det til. Uanset hvad: indsæt ikke noget følsomt, det her er en offentlig demo.

Hvilke sprog taler dette site?

Grænsefladen, linsebiblioteket og hver forklaringsside udgives på 32 sprog, valgt i headeren eller ud fra din browsers sprogindstilling. Det, du indsætter, forbliver præcis som du skrev det, og Jev læser det på det sprog, det er på — spørgsmålene bag hver linse sendes på engelsk på alle sprog, så en kørsel betyder det samme, uanset hvordan den blev lavet.

Drives det her af TypeSafe?

Nej. Dejev er en uafhængig demo bygget for at vise, hvordan Jevs output ser ud, når man tegner det op. Modellen, API’et og dokumentationen tilhører TypeSafe.

Gå i dybden

Modellen, prissætningen, de skarpe kanter og en lang hylde med kogebøger findes alle i TypeSafes egen dokumentation.