Apa itu Jev?

Mengapa ia bukan model bahasa

Sebuah LLM menghasilkan token; bentuk dari apa yang kembali adalah harapan, bukan jaminan, dan itulah sebabnya aplikasi yang memakainya untuk mengambil keputusan berakhir terbungkus penguraian dan percobaan ulang. Jev menghasilkan nilai bertipe yang kamu tentukan. Tidak ada yang perlu diurai dan tidak ada kasus rusak yang perlu ditangani — yang menggantikan loop percobaan ulang adalah cabang yang menyala ketika model tidak yakin, dan itu hal yang berbeda serta jauh lebih berguna untuk diketahui.

Tiga bentuk, dan tidak ada lagi

Angkanya

TypeSafe menerbitkannya; itu angka vendor sendiri, bukan pengukuran kami.

Pertanyaan

Apa itu model System One?

Model yang dibangun untuk keputusan, bukan untuk prosa. Jev menerima satu keadaan ditambah peta pertanyaan bertipe dan mengembalikan satu jawaban bertipe per pertanyaan — tanpa token yang dialirkan, tanpa apa pun untuk diurai, dan tanpa cara mengeluarkan nilai di luar himpunan yang kamu tentukan. Kerangka TypeSafe adalah System One untuk penilaian terstruktur yang cepat, dengan model bahasa biasa sebagai System Two ketika kamu memang butuh bahasa.

Apa arti keyakinan?

Jawaban Choice dan Score membawa nilai keyakinan yang diturunkan dari distribusi probabilitasnya: terkonsentrasi berarti pasti, tersebar berarti model tidak bisa memisahkan opsi-opsinya. Ini sumbu kedua — jawaban memberi tahu apa, keyakinan memberi tahu apakah perlu bertindak. Jawaban Noul tidak punya medan keyakinan, karena probabilitasnya sendiri sudah membawanya: 0,51 adalah model yang mengatakan bahwa ia tidak tahu.

Bisakah Jev berhalusinasi?

Tidak dalam bentuk keluarannya. Choice hanya bisa mengembalikan salah satu opsi yang kamu tentukan; Score hanya bisa jatuh di dalam rubrikmu; Noul adalah angka antara 0 dan 1. Ia tetap bisa salah tentang teksmu — dan justru untuk itulah keyakinan ada.

Mengapa namanya Jev?

Dari nama ekonom William Stanley Jevons. Tulisan peluncuran TypeSafe mengatakan mereka memperkirakan kecerdasan mesin mengikuti jalur yang ditempuh batu bara setelah mesin uap menjadi efisien — paradoks Jevons, di mana membuat sesuatu lebih murah dipakai justru menambah, bukan mengurangi, pemakaiannya.

Bisakah saya menjalankan Jev secara lokal? Apakah sumbernya terbuka?

Tidak. Jev adalah model berpemilik yang dihosting dan diakses lewat API HTTP TypeSafe; tidak ada bobot yang dipublikasikan untuk diunduh, dan bobot yang sama melayani setiap akun — tidak ada penyetelan halus atau adaptasi LoRA per pelanggan. Kamu membentuk jawabannya lewat permintaan: lewat apa yang kamu taruh di keadaan, dan lewat cara kamu menulis instruksi serta kriteria tiap pertanyaan.

Seberapa cepat Jev?

TypeSafe menyebut 70–500 ms dari ujung ke ujung, berbanding 3–329 detik untuk model terdepan, dan 40–200× lebih cepat pada jenis kueri yang menjadi tujuan pembuatannya. Itu angka vendor. Yang bisa dikatakan situs ini dari lognya sendiri adalah bahwa permintaan sembilan pertanyaan biasanya kembali dalam beberapa ratus milidetik — setiap halaman hasil menampilkan waktu pulang pergi terukur untuk panggilan itu.

Berapa biaya Jev?

$0,042 per juta token masukan pada jev-1.13.0, dengan keluaran gratis — tidak ada dekode autoregresif untuk dihitung. Karena keadaan dibaca sekali dan setiap pertanyaan dievaluasi terhadapnya secara paralel, menanyakan sepuluh hal berbiaya kurang lebih sama dengan menanyakan satu. Setiap halaman hasil di situs ini mencetak jumlah token dan biaya panggilan persis itu.

Bagaimana Jev dilatih?

Dengan yang TypeSafe sebut RLCD — pembelajaran penguatan untuk keputusan terkalibrasi. Tujuan yang dinyatakan berbeda dari RLHF atau RLVR: bukan jawaban yang lebih disukai orang atau jawaban yang lolos pemeriksa, melainkan jawaban yang probabilitasnya jujur secara epistemik. Itulah yang membuat keyakinan layak diberi ambang alih-alih sekadar hiasan.

Apa batasannya?

Hanya teks masuk — tanpa gambar, audio, atau video. 64k token per permintaan, yang mana keadaan ditambah satu pertanyaan terpanjang harus muat dalam 32k. Choice menampung hingga 255 opsi; Score menampung 2 sampai 10 tingkat. Batas laju pada akses awal adalah 250.000 token per detik dan 1.200 permintaan per menit, dan TypeSafe memperingatkan bahwa angka itu bergeser.