Nasıl çalışır

İsteğin tamamı

Durumu sen verirsin — ne yapıştırırsan o. Soruları mercek verir. Jev her soru için aynı kimliklerle anahtarlanmış bir tipli yanıt döndürür.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Grafikler yanıtlarla nasıl eşleşir

Choice → halka

Olasılıklar bire toplanır, bu yüzden halka burada dürüsttür: gerçek bir parça-bütün ilişkisidir. Açıklama her seçeneği tam değeriyle yineler, çünkü halka yakın sonuçları göstermede kötüdür, sayılar ise değildir.

Score → ölçüt şeridi

Şerit, düzeylerinin sırasıdır; ibre, olasılıkla ağırlıklandırılmış değerdir, bu yüzden genellikle iki düzeyin arasına düşer. Altındaki çubuklar olasılık kütlesinin nasıl yayıldığını gösterir — dar bir tepeden gelen 2,0 puan ile birbirinden uzak iki tümsekten gelen 2,0 puan çok farklı yanıtlardır.

Noul → gösterge

Bir sınıra karşı tek bir oran, bu yüzden grafik yerine gösterge alır. Ortadaki gri bant, modelin fiilen “bilmiyorum” dediği yeri işaretler — 0,51 asla evet diye okunmamalı.

Mercekler

Her mercek, Jev’in yapabildiklerinin farklı bir yanını göstermek için seçilmiş sabit bir soru kümesidir. Kendi merceğini de yazabilirsin.

• Mesaj röntgeni

  Bu mesaj senden aslında ne istiyor?

  9 soru

• Destek ayıklaması

  Bir talebi, bir insan açmadan önce yönlendir.

  9 soru

• Korkuluk

  Bir istemi, modeline ulaşmadan önce ele.

  9 soru

• Taslak eleştirisi

  Göndermeden önce bir taslağa dokuz okuma.

  9 soru

• Yorum çözücü

  Bir müşteri yorumu sana aslında ne söylüyor.

  9 soru

• Hata bildirimi ayıklaması

  Ciddiyet, bileşen ve birinin yineleyip yineleyemeyeceği.

  9 soru

• Başlık merceği

  Bir haberin nasıl çerçevelendiği.

  9 soru

• Sunum denetimi

  Bir yatırımcı ya da müşteri okumaya devam eder miydi?

  9 soru

Sorular

System One modeli nedir?

Düzyazı için değil, kararlar için yapılmış bir model. Jev bir durum ile tipli soruların bir eşlemesini alır ve her soru için bir tipli yanıt döndürür — akan jeton yok, ayrıştırılacak bir şey yok ve tanımladığın kümenin dışında bir değer üretmesinin yolu yok. TypeSafe’in çerçevelemesi şöyle: hızlı yapılandırılmış yargı için System One, gerçekten dile ihtiyaç duyduğunda System Two olarak sıradan bir dil modeli.

Neden her şey tek bir istekte çalışıyor?

Jev durumu bir kez alır ve her soruyu ona karşı paralel olarak değerlendirir. Tek çağrıda on soru, on yerine yaklaşık bir çağrılık girdi jetonuna mal olur ve yaklaşık bir çağrı kadar sürer. Buradaki her merceğin istem zincirlemek yerine aynı anda dokuz şey sormasının nedeni budur.

Güven ne anlama geliyor?

Choice ve Score yanıtları, olasılık dağılımlarından türetilen bir güven değeri taşır: yoğunlaşmış olması kesin, yayılmış olması modelin seçenekleri ayıramadığı anlamına gelir. Bu ikinci bir eksendir — yanıt sana neyi, güven ise işlem yapıp yapmayacağını söyler. Noul yanıtlarının güven alanı yoktur, çünkü olasılığın kendisi bunu zaten taşır: 0,51, modelin bilmediğini söylemesidir.

Jev halüsinasyon görebilir mi?

Çıktısının biçiminde göremez. Bir Choice yalnızca senin tanımladığın seçeneklerden birini döndürebilir; bir Score yalnızca senin ölçütünün içine düşebilir; bir Noul 0 ile 1 arasında bir sayıdır. Yine de metnin hakkında yanılabilir — güvenin var oluş nedeni tam olarak budur.

Adı neden Jev?

İktisatçı William Stanley Jevons’tan geliyor. TypeSafe’in tanıtım yazısı, buhar makineleri verimlileştikten sonra kömürün izlediği yolu makine zekâsının da izlemesini beklediklerini söylüyor — bir şeyi kullanmayı ucuzlatmanın kullanımı azaltmak yerine artırdığı Jevons paradoksu.

Jev’i yerelde çalıştırabilir miyim? Açık kaynak mı?

Hayır. Jev, TypeSafe’in HTTP API’si üzerinden erişilen tescilli ve barındırılan bir modeldir; indirilecek yayımlanmış ağırlık yoktur ve aynı ağırlıklar her hesaba hizmet eder — müşteri başına ince ayar ya da LoRA uyarlaması yoktur. Yanıtlarını istek üzerinden biçimlendirirsin: duruma ne koyduğunla ve her sorunun yönergesini ve ölçütlerini nasıl yazdığınla.

Jev ne kadar hızlı?

TypeSafe uçtan uca 70–500 ms veriyor; öncü modeller için 3–329 saniyeye karşı, ve yapıldığı sorgu türünde 40–200× daha hızlı. Bunlar satıcının rakamları. Bu sitenin kendi kayıtlarından söyleyebileceği şu: dokuz soruluk bir istek tipik olarak birkaç yüz milisaniyede geri döner — her sonuç sayfası o çağrının ölçülen gidiş dönüş süresini gösterir.

Jev’in maliyeti ne?

jev-1.13.0’da milyon girdi jetonu başına 0,042 $, çıktı ücretsiz — ölçülecek özbağlanımlı kod çözme yok. Durum bir kez okunduğu ve her soru ona karşı paralel değerlendirildiği için on şey sormak, bir şey sormakla yaklaşık aynıya mal olur. Bu sitedeki her sonuç sayfası tam olarak o çağrının jeton sayısını ve maliyetini yazar.

Jev nasıl eğitildi?

TypeSafe’in RLCD dediği yöntemle — kalibre edilmiş kararlar için pekiştirmeli öğrenme. Belirtilen amaç RLHF ya da RLVR’dan farklı: insanların tercih ettiği yanıtlar ya da bir denetleyiciden geçen yanıtlar değil, olasılıkları epistemik olarak dürüst olan yanıtlar. Güveni süsleme değil, üzerine eşik koyulmaya değer kılan da budur.

Sınırlar neler?

Yalnızca metin girer — görüntü, ses ya da video yok. İstek başına 64k jeton; bunun içinde durum artı en uzun tek soru 32k’ya sığmalı. Bir Choice en fazla 255 seçenek alır; bir Score 2 ile 10 arası düzey alır. Erken erişimde hız sınırları saniyede 250.000 jeton ve dakikada 1.200 istek; TypeSafe bunların değiştiğini belirtiyor.

Yapıştırdığım şeye ne oluyor?

Değerlendirme için TypeSafe’e gönderilir ve sonucun kalıcı bir bağlantısı olsun diye bu sitenin veritabanında saklanır. Herkese açık çalıştırmalar Keşfet’te ve arama motorlarında görünür. Listelenmemiş çalıştırmalar da saklanır ama Keşfet’in ve site haritasının dışında tutulur ve noindex başlığıyla sunulur — bağlantı, verdiğin herkes için çalışmaya devam eder. Her iki durumda da hassas hiçbir şey yapıştırma: burası herkese açık bir tanıtım.

Bu site hangi dilleri konuşuyor?

Arayüz, mercek kütüphanesi ve her açıklama sayfası 32 dilde yayımlanıyor; üst bilgiden ya da tarayıcının dil ayarından seçiliyor. Yapıştırdığın şey tam yazdığın gibi kalır ve Jev onu hangi dildeyse o dilde okur — her merceğin ardındaki sorular her dilde İngilizce gönderilir, böylece bir çalıştırma nasıl yapılırsa yapılsın aynı şeyi ifade eder.

Bunu TypeSafe mi işletiyor?

Hayır. Dejev, Jev’in çıktısı çizildiğinde nasıl göründüğünü göstermek için yapılmış bağımsız bir tanıtımdır. Model, API ve belgeler TypeSafe’e aittir.

Daha derine in

Model, fiyatlandırma, pürüzlü kenarlar ve uzun bir tarif rafı — hepsi TypeSafe’in kendi belgelerinde.