Apakah itu model System One?

Model yang dibina untuk keputusan dan bukan untuk prosa. Jev mengambil satu keadaan serta peta soalan bertaip dan memulangkan satu jawapan bertaip bagi setiap soalan — tiada token dialirkan, tiada apa-apa untuk dihurai, dan tiada cara untuk ia mengeluarkan nilai di luar set yang anda tentukan. Rangka TypeSafe ialah System One untuk pertimbangan berstruktur yang pantas, dengan model bahasa biasa sebagai System Two apabila anda benar-benar perlukan bahasa.

Apakah maksud keyakinan?

Jawapan Choice dan Score membawa nilai keyakinan yang diterbitkan daripada taburan kebarangkaliannya: tertumpu bermakna pasti, tersebar bermakna model tidak dapat memisahkan pilihan. Ia paksi kedua — jawapan memberitahu apa, keyakinan memberitahu sama ada patut bertindak. Jawapan Noul tiada medan keyakinan, kerana kebarangkaliannya sendiri sudah membawanya: 0.51 ialah model yang berkata ia tidak tahu.

Bolehkah Jev berhalusinasi?

Tidak dari segi bentuk keluarannya. Choice hanya boleh memulangkan salah satu pilihan yang anda tentukan; Score hanya boleh jatuh dalam rubrik anda; Noul ialah nombor antara 0 dan 1. Ia masih boleh tersilap tentang teks anda — dan itulah tepatnya tujuan keyakinan.

Mengapa ia dinamakan Jev?

Sempena ahli ekonomi William Stanley Jevons. Catatan pelancaran TypeSafe menyebut mereka menjangka kecerdasan mesin mengikut laluan yang dilalui arang batu selepas enjin stim menjadi cekap — paradoks Jevons, di mana menjadikan sesuatu lebih murah digunakan menambah, bukan mengurangkan, penggunaannya.

Bolehkah saya menjalankan Jev secara tempatan? Adakah ia sumber terbuka?

Tidak. Jev ialah model milik persendirian yang dihoskan dan dicapai melalui API HTTP TypeSafe; tiada pemberat diterbitkan untuk dimuat turun, dan pemberat yang sama melayan setiap akaun — ia tidak diperhalusi atau disesuaikan LoRA bagi setiap pelanggan. Anda membentuk jawapannya melalui permintaan: melalui apa yang anda letakkan dalam keadaan, dan cara anda menulis arahan serta kriteria setiap soalan.

TypeSafe menyebut 70–500 ms dari hujung ke hujung, berbanding 3–329 saat bagi model barisan hadapan, dan 40–200× lebih pantas bagi jenis pertanyaan yang menjadi tujuan pembinaannya. Itu angka vendor. Yang boleh dikatakan laman ini daripada lognya sendiri ialah permintaan sembilan soalan lazimnya kembali dalam beberapa ratus milisaat — setiap halaman keputusan menunjukkan masa pergi balik terukur bagi panggilan itu.

$0.042 setiap juta token masukan pada jev-1.13.0, dengan keluaran percuma — tiada penyahkodan autoregresif untuk dikira. Oleh sebab keadaan dibaca sekali dan setiap soalan dinilai terhadapnya secara selari, bertanya sepuluh perkara berkos lebih kurang sama dengan bertanya satu. Setiap halaman keputusan di laman ini mencetak bilangan token dan kos panggilan tepat itu.

Bagaimana Jev dilatih?

Dengan apa yang TypeSafe panggil RLCD — pembelajaran pengukuhan untuk keputusan tertentukur. Matlamat yang dinyatakan berbeza daripada RLHF atau RLVR: bukan jawapan yang lebih disukai orang atau jawapan yang lulus pemeriksa, tetapi jawapan yang kebarangkaliannya jujur secara epistemik. Itulah yang menjadikan keyakinan berbaloi diberi ambang dan bukan sekadar hiasan.

Teks sahaja masuk — tiada imej, audio atau video. 64k token setiap permintaan, di mana keadaan serta satu soalan terpanjang mesti muat dalam 32k. Choice menerima sehingga 255 pilihan; Score menerima 2 hingga 10 tahap. Had kadar pada akses awal ialah 250,000 token sesaat dan 1,200 permintaan seminit, dan TypeSafe memberi amaran bahawa ia berubah.

Apakah itu Jev?

Jev ialah model keputusan. Di mana model bahasa menulis teks yang kemudian terpaksa anda hurai, Jev mengambil satu petikan teks serta peta soalan bertaip dan memulangkan satu jawapan bertaip bagi setiap soalan — satu kebarangkalian, satu pilihan bernama, atau satu kedudukan pada rubrik — setiap satunya dengan nombor tertentukur. Ia dibuat oleh TypeSafe, dicapai melalui API HTTP, dan ia tidak boleh memulangkan nilai di luar set yang anda tentukan.

Mengapa ia bukan model bahasa

Sebuah LLM menghasilkan token; bentuk apa yang kembali ialah harapan, bukan jaminan, dan itulah sebabnya aplikasi yang menggunakannya untuk membuat keputusan akhirnya dibalut penghuraian dan cubaan semula. Jev menghasilkan nilai bertaip yang anda tentukan. Tiada apa-apa untuk dihurai dan tiada kes rosak untuk ditangani — yang menggantikan gelung cubaan semula ialah cabang untuk ketika model tidak pasti, yang merupakan perkara berbeza dan lebih berguna untuk diketahui.

Jev lawan model bahasa →

Angkanya

TypeSafe menerbitkannya; itu angka vendor sendiri, bukan ukuran kami.

70–500 ms

respons hujung ke hujung, berbanding 3–329 s bagi model barisan hadapan

$0.042

setiap juta token masukan, keluaran percuma

64k token

konteks setiap permintaan

percuma

token keluaran

Soalan

Apakah itu model System One?: Model yang dibina untuk keputusan dan bukan untuk prosa. Jev mengambil satu keadaan serta peta soalan bertaip dan memulangkan satu jawapan bertaip bagi setiap soalan — tiada token dialirkan, tiada apa-apa untuk dihurai, dan tiada cara untuk ia mengeluarkan nilai di luar set yang anda tentukan. Rangka TypeSafe ialah System One untuk pertimbangan berstruktur yang pantas, dengan model bahasa biasa sebagai System Two apabila anda benar-benar perlukan bahasa.
Apakah maksud keyakinan?: Jawapan Choice dan Score membawa nilai keyakinan yang diterbitkan daripada taburan kebarangkaliannya: tertumpu bermakna pasti, tersebar bermakna model tidak dapat memisahkan pilihan. Ia paksi kedua — jawapan memberitahu apa, keyakinan memberitahu sama ada patut bertindak. Jawapan Noul tiada medan keyakinan, kerana kebarangkaliannya sendiri sudah membawanya: 0.51 ialah model yang berkata ia tidak tahu.
Bolehkah Jev berhalusinasi?: Tidak dari segi bentuk keluarannya. Choice hanya boleh memulangkan salah satu pilihan yang anda tentukan; Score hanya boleh jatuh dalam rubrik anda; Noul ialah nombor antara 0 dan 1. Ia masih boleh tersilap tentang teks anda — dan itulah tepatnya tujuan keyakinan.
Mengapa ia dinamakan Jev?: Sempena ahli ekonomi William Stanley Jevons. Catatan pelancaran TypeSafe menyebut mereka menjangka kecerdasan mesin mengikut laluan yang dilalui arang batu selepas enjin stim menjadi cekap — paradoks Jevons, di mana menjadikan sesuatu lebih murah digunakan menambah, bukan mengurangkan, penggunaannya.
Bolehkah saya menjalankan Jev secara tempatan? Adakah ia sumber terbuka?: Tidak. Jev ialah model milik persendirian yang dihoskan dan dicapai melalui API HTTP TypeSafe; tiada pemberat diterbitkan untuk dimuat turun, dan pemberat yang sama melayan setiap akaun — ia tidak diperhalusi atau disesuaikan LoRA bagi setiap pelanggan. Anda membentuk jawapannya melalui permintaan: melalui apa yang anda letakkan dalam keadaan, dan cara anda menulis arahan serta kriteria setiap soalan.
Sepantas mana Jev?: TypeSafe menyebut 70–500 ms dari hujung ke hujung, berbanding 3–329 saat bagi model barisan hadapan, dan 40–200× lebih pantas bagi jenis pertanyaan yang menjadi tujuan pembinaannya. Itu angka vendor. Yang boleh dikatakan laman ini daripada lognya sendiri ialah permintaan sembilan soalan lazimnya kembali dalam beberapa ratus milisaat — setiap halaman keputusan menunjukkan masa pergi balik terukur bagi panggilan itu.
Berapakah kos Jev?: $0.042 setiap juta token masukan pada jev-1.13.0, dengan keluaran percuma — tiada penyahkodan autoregresif untuk dikira. Oleh sebab keadaan dibaca sekali dan setiap soalan dinilai terhadapnya secara selari, bertanya sepuluh perkara berkos lebih kurang sama dengan bertanya satu. Setiap halaman keputusan di laman ini mencetak bilangan token dan kos panggilan tepat itu.
Bagaimana Jev dilatih?: Dengan apa yang TypeSafe panggil RLCD — pembelajaran pengukuhan untuk keputusan tertentukur. Matlamat yang dinyatakan berbeza daripada RLHF atau RLVR: bukan jawapan yang lebih disukai orang atau jawapan yang lulus pemeriksa, tetapi jawapan yang kebarangkaliannya jujur secara epistemik. Itulah yang menjadikan keyakinan berbaloi diberi ambang dan bukan sekadar hiasan.
Apakah hadnya?: Teks sahaja masuk — tiada imej, audio atau video. 64k token setiap permintaan, di mana keadaan serta satu soalan terpanjang mesti muat dalam 32k. Choice menerima sehingga 255 pilihan; Score menerima 2 hingga 10 tahap. Had kadar pada akses awal ialah 250,000 token sesaat dan 1,200 permintaan seminit, dan TypeSafe memberi amaran bahawa ia berubah.

Cara ia berfungsi →

Halakan Jev ke teks anda sendiri

Setiap contoh di halaman ini dilukis daripada panggilan API sebenar. Tampal teks anda sendiri dan lihat sembilan jawapan bertaip kembali daripada satu permintaan.

Buka taman permainan

Apakah itu Jev?

Mengapa ia bukan model bahasa

Tiga rupa, dan tiada yang lain

Noul

Choice

Score

Angkanya

Soalan

Halakan Jev ke teks anda sendiri