Jev 是什麼?
Jev 是一個決策模型。 語言模型寫出的文字還得由你去剖析,而 Jev 接收一段文字加上一份具型別的問題表,為每個問題回傳一個具型別的答案——一個機率、一個具名選項,或量表上的一個位置——每一個都附帶一個校準過的數值。它由 TypeSafe 打造,透過 HTTP API 存取,而且不可能回傳你定義範圍之外的值。
它為什麼不是語言模型
大型語言模型產出的是 token;回傳內容的形狀只是一種期望,而非保證,所以拿它做決策的應用最後都被剖析與重試包了起來。Jev 產出的是你指定型別的值。沒有東西需要剖析,也沒有格式錯誤的情況要處理——取代重試迴圈的,是一個在模型_不確定_時才觸發的分支,而那是另一回事,也有用得多。
Jev 對比大型語言模型 →三種形狀,別無其他
數字
這些是 TypeSafe 公布的;是廠商自己的數據,不是我們的量測。
70–500 毫秒
端到端回應,而前沿模型是 3–329 秒
$0.042
每百萬輸入 token,輸出免費
64k token
每次請求的脈絡
免費
輸出 token
常見問題
- 什麼是「系統一模型」?
- 一個為判斷而不是為散文而造的模型。Jev 接收一個 state 加一組型別化問題,為每個問題回傳一個型別化答案——沒有串流 token,沒有需要解析的東西,也沒有辦法吐出你定義範圍之外的值。TypeSafe 的說法是:系統一負責快速的結構化判斷,而當你真的需要語言時,普通大型語言模型作為系統二。
- 信賴度是什麼意思?
- Choice 與 Score 的答案帶一個由機率分布推出的信賴度:分布集中代表確定,分散代表模型分不開這些選項。它是第二個維度——答案告訴你「是什麼」,信賴度告訴你「要不要動手」。Noul 答案沒有信賴度欄位,因為機率本身已經承載了它:0.51 就是模型在說它不知道。
- Jev 會產生幻覺嗎?
- 在輸出的形狀上不會。Choice 只可能回傳你定義過的選項;Score 只能落在你的量表之內;Noul 是 0 到 1 之間的一個數。它仍然可能讀錯你的文字——而信賴度正是為此而存在。
- 為什麼叫 Jev?
- 取自經濟學家威廉·斯坦利·傑文斯。TypeSafe 的發布文章說,他們預期機器智慧會走上蒸汽機變高效之後煤炭走過的那條路——也就是傑文斯悖論:讓一樣東西用起來更便宜,會讓它被用得更多,而不是更少。
- 我能在本機跑 Jev 嗎?它開源嗎?
- 不能。Jev 是透過 TypeSafe 的 HTTP API 存取的專有託管模型;沒有公開可下載的權重,而且所有帳號用的是同一套權重——它不會按客戶做微調或 LoRA 調適。你是透過請求來形塑它的答案:你放進 state 的內容,以及你怎麼寫每個問題的 instructions 與 criteria。
- Jev 有多快?
- TypeSafe 給出的數字是端到端 70–500 毫秒,而前沿模型是 3–329 秒,在它擅長的那類查詢上快 40–200 倍。這些是廠商自己的數據。本站能從自己的紀錄裡說的是:一次九問請求通常在幾百毫秒內回來——每個結果頁都會顯示那一次呼叫實測的往返時間。
- Jev 多少錢?
- jev-1.13.0 每百萬輸入 token $0.042,輸出免費——沒有自迴歸解碼可計量。因為 state 只讀一次、所有問題平行評估,問十件事的花費和問一件差不多。本站每個結果頁都會印出那次呼叫確切的 token 數與費用。
- Jev 是怎麼訓練的?
- 用 TypeSafe 稱為 RLCD 的方法——面向校準判斷的強化學習。它宣稱的目標和 RLHF 或 RLVR 不同:不是人更喜歡的答案,也不是能通過檢查器的答案,而是機率在認知上誠實的答案。這正是信賴度值得拿來設門檻、而不只是裝飾的原因。
- 有哪些限制?
- 只接受文字——不支援影像、音訊或影片。每次請求 64k token,其中 state 加最長的那個問題必須裝進 32k。一個 Choice 最多 255 個選項;一個 Score 是 2 到 10 個等級。早期存取的速率限制是每秒 250,000 token、每分鐘 1,200 次請求,TypeSafe 提醒這些會變。