Jev とは

なぜ言語モデルではないのか

LLM が生み出すのはトークンで、返ってくる形は保証ではなく期待にすぎません。だからこそ判断に LLM を使うアプリは、解析とリトライに包まれてしまいます。Jev が生み出すのは、あなたが指定した型の値です。解析するものはなく、壊れた出力を扱う分岐も要りません。リトライループの代わりに来るのは、モデルが_確信を持てない_ときに走る分岐であり、それはまったく別の、そしてずっと有用な情報です。

三つの形、それだけ

数字

これらは TypeSafe が公表しているもので、ベンダー自身の数字です。こちらの計測ではありません。

よくある質問

システム 1 モデルとは何ですか？

散文ではなく判断のために作られたモデルです。Jev は 1 つの state と型のある質問のマップを受け取り、質問ごとに 1 つの型のある答えを返します。トークンのストリームもなく、パースするものもなく、あなたが定義した集合の外の値を出す方法もありません。TypeSafe の整理では、素早い構造化された判断がシステム 1、本当に言語が必要なときの普通の LLM がシステム 2 です。

確信度とは何を意味しますか？

Choice と Score の答えは、確率分布から導かれた確信度を持ちます。分布が集中していれば確実、広がっていればモデルは選択肢を分離できていません。これは第 2 の軸です。答えは「何か」を、確信度は「動くべきか」を教えます。Noul に確信度フィールドがないのは、確率そのものがそれを担っているからです。0.51 は、モデルが「わからない」と言っているということです。

Jev はハルシネーションを起こしますか？

出力の形については起こしません。Choice はあなたが定義した選択肢しか返せず、Score はあなたのルーブリックの中にしか落ちず、Noul は 0 と 1 の間の数です。テキストの読み取りを誤ることはあります。確信度はまさにそのためにあります。

なぜ Jev という名前なのですか？

経済学者ウィリアム・スタンレー・ジェヴォンズにちなんでいます。TypeSafe のローンチ記事によれば、蒸気機関が効率化したあとに石炭がたどった道を機械知能もたどると考えているとのこと。つまりジェヴォンズのパラドックス。何かを使うのが安くなると、使われる量は減るどころか増えるというものです。

Jev をローカルで動かせますか？ オープンソースですか？

いいえ。Jev は TypeSafe の HTTP API 経由で使うプロプライエタリなホスト型モデルです。ダウンロードできる公開された重みはなく、すべてのアカウントが同じ重みを使います。顧客ごとのファインチューニングや LoRA 適用もありません。答えを形づくるのはリクエストのほうです。state に何を入れるか、各質問の instructions と criteria をどう書くか。

Jev はどれくらい速いですか？

TypeSafe はエンドツーエンドで 70〜500 ms、フロンティアモデルの 3〜329 秒に対して、得意なクエリでは 40〜200 倍速いとしています。これはベンダー自身の数字です。このサイトが自分のログから言えるのは、9 問のリクエストがたいてい数百ミリ秒で返ってくるということ。結果ページにはその呼び出しで実測した往復時間が出ています。

Jev の料金は？

jev-1.13.0 で入力 100 万トークンあたり $0.042、出力は無料です。計測すべき自己回帰デコーディングがないからです。state は一度だけ読まれ、すべての質問が並列に評価されるので、10 個聞いても 1 個とほぼ同じコストです。このサイトの各結果ページには、その呼び出し自体のトークン数とコストが表示されます。

Jev はどう訓練されたのですか？

TypeSafe が RLCD と呼ぶ手法 — 較正された判断のための強化学習です。掲げる目標は RLHF や RLVR とは異なります。人が好む答えでも、チェッカーを通る答えでもなく、確率が認識論的に誠実である答えを目指す。確信度が飾りではなく、しきい値として使うに値するのはそのためです。

制限は何ですか？

テキストのみで、画像・音声・動画は扱えません。1 リクエスト 64k トークン、そのうち state と最長の質問 1 つが 32k に収まる必要があります。Choice は最大 255 個の選択肢、Score は 2〜10 レベル。早期アクセスのレート制限は毎秒 250,000 トークン、毎分 1,200 リクエストで、TypeSafe はこれが変わると注意しています。