Miten se toimii

Koko pyyntö

Sinä annat tilan — mitä ikinä liitätkin. Linssi antaa kysymykset. Jev palauttaa yhden tyypitetyn vastauksen kysymystä kohti, avaimina samat tunnisteet.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Miten kuvaajat vastaavat vastauksia

Choice → donitsi

Todennäköisyydet summautuvat yhteen, joten rengas on tässä rehellinen: kyse on aidosta osa–kokonaisuus-suhteesta. Selite toistaa jokaisen vaihtoehdon tarkkoine arvoineen, koska donitsi on huono tiukoissa tilanteissa, luvut eivät.

Score → asteikkonauha

Nauha on tasosi järjestyksessä; osoitin on todennäköisyyspainotettu arvo, ja siksi se osuu yleensä kahden väliin. Alla olevat palkit näyttävät, miten todennäköisyysmassa jakautuu — pistemäärä 2,0 kapeasta huipusta ja pistemäärä 2,0 kahdesta kaukaisesta kummusta ovat hyvin eri vastauksia.

Noul → mittari

Yksi suhde rajaa vasten, siksi se saa mittarin kuvaajan sijaan. Keskellä oleva harmaa vyöhyke merkitsee kohtaa, jossa malli käytännössä sanoo ”en tiedä” — 0,51:tä ei pidä koskaan lukea kylläksi.

Linssit

Jokainen linssi on vain kiinteä joukko kysymyksiä, valittu näyttämään eri puoli siitä mihin Jev pystyy. Voit myös kirjoittaa omasi.

• Viestin röntgen

  Mitä tämä viesti oikeastaan sinulta pyytää?

  9 kysymystä

• Tuen lajittelu

  Reititä tiketti ennen kuin ihminen edes avaa sen.

  9 kysymystä

• Suojakaide

  Seulo kehote ennen kuin se saavuttaa mallisi.

  9 kysymystä

• Luonnoksen kritiikki

  Yhdeksän luentaa luonnoksesta, ennen kuin lähetät sen.

  9 kysymystä

• Arvostelun tulkki

  Mitä asiakasarvostelu oikeasti kertoo sinulle.

  9 kysymystä

• Virheilmoitusten lajittelu

  Vakavuus, komponentti ja se pystyykö kukaan toistamaan sen.

  9 kysymystä

• Otsikkolinssi

  Miten uutinen kehystetään.

  9 kysymystä

• Esittelyn tarkistus

  Jatkaisiko sijoittaja tai asiakas lukemista?

  9 kysymystä

Kysymyksiä

Mikä on System One -malli?

Malli joka on rakennettu päätöksiä eikä proosaa varten. Jev ottaa yhden tilan sekä kartan tyypitettyjä kysymyksiä ja palauttaa yhden tyypitetyn vastauksen kysymystä kohti — ei virtaavia tokeneita, ei mitään jäsennettävää eikä tapaa tuottaa arvoa määrittelemäsi joukon ulkopuolelta. TypeSafen kehys on System One nopeaan jäsenneltyyn arviointiin, ja tavallinen kielimalli System Twona silloin kun oikeasti tarvitset kieltä.

Miksi kaikki ajetaan yhdellä pyynnöllä?

Jev ottaa tilan sisään kerran ja arvioi jokaisen kysymyksen sitä vasten rinnakkain. Kymmenen kysymystä yhdellä kutsulla maksaa suunnilleen yhden kutsun verran syötetokeneita kymmenen sijaan ja kestää suunnilleen yhtä kauan kuin yksi. Siksi jokainen linssi täällä kysyy yhdeksää asiaa kerralla sen sijaan että ketjuttaisi kehotteita.

Mitä varmuus tarkoittaa?

Choice- ja Score-vastaukset kantavat todennäköisyysjakaumastaan johdetun varmuusarvon: keskittynyt tarkoittaa varmaa, levinnyt sitä ettei malli pysty erottamaan vaihtoehtoja. Se on toinen akseli — vastaus kertoo mitä, varmuus kertoo kannattaako toimia. Noul-vastauksilla ei ole varmuuskenttää, koska todennäköisyys itse jo kantaa sen: 0,51 on malli joka sanoo ettei tiedä.

Voiko Jev hallusinoida?

Ei tulosteensa muodossa. Choice voi palauttaa vain jonkin määrittelemistäsi vaihtoehdoista; Score voi osua vain asteikkosi sisään; Noul on luku nollan ja yhden väliltä. Se voi silti olla väärässä tekstistäsi — ja juuri sitä varten varmuus on olemassa.

Miksi sen nimi on Jev?

Taloustieteilijä William Stanley Jevonsin mukaan. TypeSafen julkistus kertoo heidän odottavan koneälyn seuraavan sitä polkua, jonka hiili kulki höyrykoneiden tehostuttua — Jevonsin paradoksi, jossa jonkin käytön halventuminen lisää käyttöä sen sijaan että vähentäisi sitä.

Voinko ajaa Jevin paikallisesti? Onko se avointa lähdekoodia?

Ei. Jev on suljettu, isännöity malli johon otetaan yhteys TypeSafen HTTP-API:n kautta; ladattavia julkaistuja painoja ei ole, ja samat painot palvelevat jokaista tiliä — sitä ei hienosäädetä eikä LoRA-soviteta asiakaskohtaisesti. Muotoilet sen vastauksia pyynnön kautta: sillä mitä laitat tilaan ja sillä miten kirjoitat kunkin kysymyksen ohjeet ja kriteerit.

Kuinka nopea Jev on?

TypeSafe ilmoittaa 70–500 ms päästä päähän, kun kärkimalleilla luku on 3–329 sekuntia, ja 40–200× nopeamman sen kaltaisissa kyselyissä joita varten se on rakennettu. Nämä ovat toimittajan lukuja. Se mitä tämä sivusto voi omista lokeistaan sanoa on, että yhdeksän kysymyksen pyyntö palaa tyypillisesti muutamassa sadassa millisekunnissa — jokainen tulossivu näyttää juuri sen kutsun mitatun edestakaisen ajan.

Mitä Jev maksaa?

0,042 $ miljoonaa syötetokenia kohti mallilla jev-1.13.0, tuloste ilmaiseksi — mitattavaa autoregressiivistä dekoodausta ei ole. Koska tila luetaan kerran ja jokainen kysymys arvioidaan sitä vasten rinnakkain, kymmenen asian kysyminen maksaa suunnilleen saman kuin yhden. Jokainen tämän sivuston tulossivu tulostaa juuri sen kutsun tokenimäärän ja hinnan.

Miten Jev koulutettiin?

Sillä mitä TypeSafe kutsuu nimellä RLCD — vahvistusoppiminen kalibroituja päätöksiä varten. Ilmoitettu tavoite eroaa RLHF:stä ja RLVR:stä: eivät vastaukset joita ihmiset suosivat eivätkä vastaukset jotka läpäisevät tarkistimen, vaan vastaukset joiden todennäköisyydet ovat episteemisesti rehellisiä. Juuri se tekee varmuudesta kynnystämisen arvoisen eikä koristeellisen.

Mitkä ovat rajat?

Vain tekstiä sisään — ei kuvia, ääntä eikä videota. 64k tokenia pyyntöä kohti, joista tilan ja pisimmän yksittäisen kysymyksen on mahduttava 32k:hon. Choice ottaa enintään 255 vaihtoehtoa; Score ottaa 2–10 tasoa. Varhaisen käytön nopeusrajat ovat 250 000 tokenia sekunnissa ja 1 200 pyyntöä minuutissa, ja TypeSafe varoittaa niiden muuttuvan.

Mitä liittämälleni tekstille tapahtuu?

Se lähetetään TypeSafelle arvioitavaksi ja tallennetaan tämän sivuston tietokantaan, jotta tuloksella on pysyvä linkki. Julkiset ajot näkyvät Selaa-sivulla ja hakukoneissa. Listaamattomat ajot tallennetaan myös, mutta ne pidetään poissa Selaa-sivulta ja sivukartasta ja tarjoillaan noindex-otsakkeella — linkki toimii silti sille jolle sen annat. Kummassakin tapauksessa: älä liitä mitään arkaluontoista, tämä on julkinen esittely.

Mitä kieliä tämä sivusto puhuu?

Käyttöliittymä, linssikirjasto ja jokainen selityssivu julkaistaan 32 kielellä, valittuna ylätunnisteesta tai selaimesi kieliasetuksesta. Liittämäsi teksti pysyy täsmälleen sellaisena kuin kirjoitit sen, ja Jev lukee sen sillä kielellä jolla se on — kunkin linssin takana olevat kysymykset lähetetään englanniksi jokaisella kielellä, joten ajo tarkoittaa samaa riippumatta siitä miten se tehtiin.

Pyörittääkö tätä TypeSafe?

Ei. Dejev on riippumaton esittely, joka on rakennettu näyttämään miltä Jevin tuloste näyttää kun se piirretään. Malli, API ja dokumentaatio ovat TypeSafen.

Syvemmälle

Malli, hinnoittelu, karkeat reunat ja pitkä hyllyllinen keittokirjoja löytyvät kaikki TypeSafen omasta dokumentaatiosta.