Jev क्या है?

यह भाषा मॉडल क्यों नहीं है

एक LLM टोकन बनाता है; जो लौटकर आता है उसका आकार एक उम्मीद है, गारंटी नहीं, और यही वजह है कि जो एप्लिकेशन निर्णयों के लिए उसका उपयोग करते हैं वे अंततः पार्सिंग और पुनःप्रयासों में लिपट जाते हैं। Jev उस प्रकार का मान बनाता है जो आपने बताया। पार्स करने को कुछ नहीं और सँभालने के लिए कोई बिगड़ा मामला नहीं — पुनःप्रयास के लूप की जगह आती है एक ऐसी शाखा जो तब चलती है जब मॉडल अनिश्चित हो, और यह जानना एक अलग तथा कहीं अधिक उपयोगी बात है।

तीन आकार, और कुछ नहीं

आँकड़े

ये TypeSafe प्रकाशित करता है; ये विक्रेता के अपने आँकड़े हैं, हमारी माप नहीं।

प्रश्न

System One मॉडल क्या है?

एक ऐसा मॉडल जो गद्य के बजाय निर्णयों के लिए बनाया गया है। Jev एक अवस्था और टाइप किए हुए प्रश्नों का एक मानचित्र लेता है और प्रति प्रश्न एक टाइप किया हुआ उत्तर लौटाता है — कोई टोकन धारा नहीं, पार्स करने को कुछ नहीं, और आपके तय किए समुच्चय के बाहर कोई मान निकालने का कोई रास्ता नहीं। TypeSafe का ढाँचा यह है: तेज़ संरचित निर्णय के लिए System One, और जब सचमुच भाषा चाहिए तब System Two के रूप में एक सामान्य भाषा मॉडल।

विश्वास का क्या अर्थ है?

Choice और Score के उत्तर अपने प्रायिकता वितरण से निकाला गया विश्वास-मान साथ लाते हैं: केंद्रित होने का अर्थ है निश्चित, फैला होने का अर्थ है कि मॉडल विकल्पों को अलग नहीं कर पा रहा। यह एक दूसरा अक्ष है — उत्तर बताता है क्या, विश्वास बताता है कि कार्रवाई करें या नहीं। Noul के उत्तरों में विश्वास का क्षेत्र नहीं होता, क्योंकि प्रायिकता स्वयं वह बात कह देती है: 0.51 वह मॉडल है जो कह रहा है कि उसे नहीं पता।

क्या Jev मतिभ्रम कर सकता है?

अपने आउटपुट के आकार में नहीं। Choice केवल उन्हीं विकल्पों में से एक लौटा सकता है जिन्हें आपने तय किया; Score केवल आपके मानदंड के भीतर गिर सकता है; Noul 0 और 1 के बीच की एक संख्या है। वह फिर भी आपके टेक्स्ट के बारे में ग़लत हो सकता है — और ठीक इसी के लिए विश्वास है।

इसका नाम Jev क्यों है?

अर्थशास्त्री विलियम स्टैनली जेवंस के नाम पर। TypeSafe की घोषणा कहती है कि उन्हें लगता है कि मशीन बुद्धिमत्ता उसी राह पर चलेगी जिस पर भाप इंजनों के कुशल होने के बाद कोयला चला था — जेवंस का विरोधाभास, जिसमें किसी चीज़ का उपयोग सस्ता कर देने से उसका उपयोग घटने के बजाय बढ़ जाता है।

क्या मैं Jev को स्थानीय रूप से चला सकता हूँ? क्या यह ओपन सोर्स है?

नहीं। Jev एक स्वामित्व वाला होस्टेड मॉडल है जिस तक TypeSafe के HTTP API से पहुँचा जाता है; डाउनलोड करने के लिए कोई प्रकाशित भार नहीं हैं, और वही भार हर खाते को सेवा देते हैं — प्रति ग्राहक न कोई फ़ाइन-ट्यूनिंग है न LoRA अनुकूलन। आप उसके उत्तरों को अनुरोध के ज़रिए गढ़ते हैं: इससे कि आप अवस्था में क्या डालते हैं, और इससे कि आप हर प्रश्न के निर्देश और मानदंड कैसे लिखते हैं।

Jev कितना तेज़ है?

TypeSafe छोर-से-छोर 70–500 ms बताता है, जबकि अग्रणी मॉडलों के लिए यह 3–329 सेकंड है, और जिस तरह के प्रश्नों के लिए वह बना है उनमें 40–200 गुना तेज़। ये विक्रेता के आँकड़े हैं। यह साइट अपने लॉग से जो कह सकती है वह यह है कि नौ प्रश्नों वाला अनुरोध आम तौर पर कुछ सौ मिलीसेकंड में लौटता है — हर परिणाम पृष्ठ उस विशेष कॉल का मापा गया आना-जाना समय दिखाता है।

Jev की क़ीमत क्या है?

jev-1.13.0 पर प्रति दस लाख इनपुट टोकन $0.042, और आउटपुट निःशुल्क — मापने के लिए कोई स्वतःप्रतिगामी डिकोडिंग है ही नहीं। चूँकि अवस्था एक बार पढ़ी जाती है और हर प्रश्न उसके सापेक्ष समानांतर आँका जाता है, दस चीज़ें पूछने की लागत लगभग एक पूछने जितनी होती है। इस साइट का हर परिणाम पृष्ठ उसी कॉल की टोकन संख्या और लागत छापता है।

Jev को प्रशिक्षित कैसे किया गया?

उस विधि से जिसे TypeSafe RLCD कहता है — अंशांकित निर्णयों के लिए सुदृढ़ीकरण अधिगम। घोषित लक्ष्य RLHF या RLVR से अलग है: ऐसे उत्तर नहीं जो लोगों को पसंद आएँ, और ऐसे भी नहीं जो किसी जाँचक से पास हो जाएँ, बल्कि ऐसे उत्तर जिनकी प्रायिकताएँ ज्ञानमीमांसीय रूप से ईमानदार हों। यही विश्वास को सजावट के बजाय सीमा तय करने योग्य बनाता है।

सीमाएँ क्या हैं?

केवल टेक्स्ट अंदर जाता है — कोई चित्र, ऑडियो या वीडियो नहीं। प्रति अनुरोध 64k टोकन, जिनमें अवस्था और सबसे लंबा एकल प्रश्न मिलकर 32k में समाने चाहिए। Choice अधिकतम 255 विकल्प लेता है; Score 2 से 10 स्तर लेता है। प्रारंभिक पहुँच में दर सीमाएँ प्रति सेकंड 2,50,000 टोकन और प्रति मिनट 1,200 अनुरोध हैं, और TypeSafe चेताता है कि ये बदलती रहती हैं।