วิธีทำงาน

คำขอทั้งหมด

คุณเป็นผู้ให้ สถานะ คือสิ่งที่คุณวางเข้ามา ส่วนเลนส์เป็นผู้ให้ คำถาม Jev คืนคำตอบที่มีชนิดข้อมูลหนึ่งคำตอบต่อหนึ่งคำถาม โดยใช้รหัสเดียวกันเป็นคีย์

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

แผนภูมิสอดคล้องกับคำตอบอย่างไร

Choice → โดนัท

ความน่าจะเป็นรวมกันได้หนึ่ง วงแหวนจึงซื่อตรงในกรณีนี้ เพราะเป็นความสัมพันธ์ส่วนต่อทั้งหมดจริง ๆ คำอธิบายจะทวนทุกตัวเลือกพร้อมค่าที่แน่นอน เพราะโดนัทแสดงกรณีสูสีได้แย่ ในขณะที่ตัวเลขทำได้ดี

Score → แถบเกณฑ์

แถบคือระดับของคุณเรียงตามลำดับ ส่วนเข็มคือค่าที่ถ่วงน้ำหนักด้วยความน่าจะเป็น จึงมักตกอยู่ระหว่างสองระดับ แท่งด้านล่างแสดงว่ามวลความน่าจะเป็นกระจายอย่างไร คะแนน 2.0 ที่มาจากยอดแหลมแคบ กับคะแนน 2.0 ที่มาจากสองโหนกห่างกัน เป็นคำตอบที่ต่างกันมาก

Noul → มาตรวัด

อัตราส่วนเดียวเทียบกับขีดจำกัด มันจึงได้มาตรวัดแทนที่จะเป็นแผนภูมิ แถบสีเทารอบกึ่งกลางทำเครื่องหมายจุดที่โมเดลกำลังบอกโดยแท้จริงว่า “ไม่รู้” ค่า 0.51 ไม่ควรถูกอ่านว่าใช่เด็ดขาด

เลนส์

แต่ละเลนส์เป็นเพียงชุดคำถามตายตัวที่เลือกมาเพื่อแสดงแง่มุมต่าง ๆ ของสิ่งที่ Jev ทำได้ คุณเขียนเลนส์ของตัวเองได้เช่นกัน

• เอกซเรย์ข้อความ

  ข้อความนี้กำลังขออะไรจากคุณกันแน่

  9 คำถาม

• คัดกรองตั๋วฝ่ายสนับสนุน

  จัดเส้นทางตั๋วก่อนที่คนจะได้เปิดอ่านด้วยซ้ำ

  9 คำถาม

• ราวกันตก

  กรองพรอมป์ตก่อนที่มันจะไปถึงโมเดลของคุณ

  9 คำถาม

• วิจารณ์ร่างงานเขียน

  เก้าการอ่านต่อร่างหนึ่งชิ้น ก่อนที่คุณจะส่งมันออกไป

  9 คำถาม

• ตัวถอดรหัสรีวิว

  รีวิวของลูกค้ากำลังบอกอะไรคุณจริง ๆ

  9 คำถาม

• คัดกรองรายงานบั๊ก

  ความร้ายแรง ส่วนประกอบ และมีใครทำซ้ำได้ไหม

  9 คำถาม

• เลนส์พาดหัว

  ข่าวชิ้นหนึ่งถูกวางกรอบอย่างไร

  9 คำถาม

• ตรวจบทนำเสนอ

  นักลงทุนหรือลูกค้าจะอ่านต่อไหม

  9 คำถาม

คำถาม

โมเดล System One คืออะไร

โมเดลที่สร้างมาเพื่อการตัดสินใจมากกว่าการเขียนร้อยแก้ว Jev รับสถานะหนึ่งชุดพร้อมแผนที่ของคำถามที่มีชนิดข้อมูล แล้วคืนคำตอบที่มีชนิดข้อมูลหนึ่งคำตอบต่อหนึ่งคำถาม ไม่มีโทเคนไหลออกมา ไม่มีอะไรให้แยกวิเคราะห์ และไม่มีทางที่มันจะให้ค่าที่อยู่นอกชุดซึ่งคุณกำหนดไว้ กรอบคิดของ TypeSafe คือ System One สำหรับการตัดสินเชิงโครงสร้างที่รวดเร็ว โดยมีโมเดลภาษาทั่วไปเป็น System Two เมื่อคุณต้องการภาษาจริง ๆ

ทำไมทุกอย่างจึงรันในคำขอเดียว

Jev รับสถานะเข้าไปหนึ่งครั้งแล้วประเมินทุกคำถามต่อสถานะนั้นแบบขนาน สิบคำถามในการเรียกครั้งเดียวมีต้นทุนโทเคนขาเข้าราวหนึ่งครั้งแทนที่จะเป็นสิบครั้ง และใช้เวลาพอ ๆ กับครั้งเดียว นี่คือเหตุผลที่ทุกเลนส์ที่นี่ถามเก้าเรื่องพร้อมกันแทนที่จะร้อยพรอมป์ตต่อกัน

ความมั่นใจหมายถึงอะไร

คำตอบแบบ Choice และ Score มีค่าความมั่นใจที่คำนวณจากการแจกแจงความน่าจะเป็นของมัน ถ้ากระจุกตัวแปลว่าแน่ใจ ถ้ากระจายแปลว่าโมเดลแยกตัวเลือกออกจากกันไม่ได้ นี่เป็นแกนที่สอง คำตอบบอกว่าอะไร ส่วนความมั่นใจบอกว่าควรลงมือหรือไม่ คำตอบแบบ Noul ไม่มีฟิลด์ความมั่นใจ เพราะตัวความน่าจะเป็นเองก็บอกอยู่แล้ว ค่า 0.51 คือโมเดลกำลังบอกว่ามันไม่รู้

Jev หลอนได้ไหม

ไม่ได้ในแง่รูปแบบของผลลัพธ์ Choice คืนได้เฉพาะตัวเลือกที่คุณกำหนดไว้ Score ตกได้เฉพาะภายในเกณฑ์ของคุณ ส่วน Noul เป็นตัวเลขระหว่าง 0 กับ 1 มันยังผิดพลาดเกี่ยวกับข้อความของคุณได้อยู่ ซึ่งนั่นคือเหตุผลที่ความมั่นใจมีอยู่

ทำไมถึงชื่อ Jev

ตั้งตามชื่อนักเศรษฐศาสตร์ William Stanley Jevons โพสต์เปิดตัวของ TypeSafe บอกว่าพวกเขาคาดว่าปัญญาประดิษฐ์จะเดินตามเส้นทางที่ถ่านหินเดินหลังจากเครื่องจักรไอน้ำมีประสิทธิภาพขึ้น นั่นคือความย้อนแย้งของ Jevons ที่การทำให้สิ่งหนึ่งใช้ได้ถูกลงกลับทำให้มีการใช้มากขึ้นแทนที่จะน้อยลง

รัน Jev บนเครื่องตัวเองได้ไหม เป็นโอเพนซอร์สหรือเปล่า

ไม่ได้ Jev เป็นโมเดลกรรมสิทธิ์ที่โฮสต์ไว้และเข้าถึงผ่าน HTTP API ของ TypeSafe ไม่มีน้ำหนักที่เผยแพร่ให้ดาวน์โหลด และน้ำหนักชุดเดียวกันให้บริการทุกบัญชี ไม่มีการปรับจูนหรือการปรับ LoRA แยกรายลูกค้า คุณกำหนดรูปคำตอบของมันผ่านคำขอแทน ผ่านสิ่งที่คุณใส่ลงในสถานะ และผ่านวิธีที่คุณเขียนคำสั่งและเกณฑ์ของแต่ละคำถาม

Jev เร็วแค่ไหน

TypeSafe ระบุ 70–500 มิลลิวินาทีจากต้นทางถึงปลายทาง เทียบกับ 3–329 วินาทีของโมเดลแนวหน้า และเร็วกว่า 40–200 เท่าในคำถามประเภทที่มันถูกสร้างมาเพื่อสิ่งนั้น นั่นเป็นตัวเลขของผู้ให้บริการ สิ่งที่เว็บไซต์นี้พูดได้จากบันทึกของตัวเองคือ คำขอเก้าคำถามมักกลับมาภายในไม่กี่ร้อยมิลลิวินาที ทุกหน้าผลลัพธ์แสดงเวลาไป-กลับที่วัดได้ของการเรียกครั้งนั้น

Jev ราคาเท่าไร

0.042 ดอลลาร์ต่อโทเคนขาเข้าหนึ่งล้านบน jev-1.13.0 โดยขาออกไม่มีค่าใช้จ่าย เพราะไม่มีการถอดรหัสแบบถดถอยอัตโนมัติให้ต้องคิดเงิน เนื่องจากสถานะถูกอ่านครั้งเดียวและทุกคำถามถูกประเมินต่อสถานะนั้นแบบขนาน การถามสิบเรื่องจึงมีต้นทุนพอ ๆ กับการถามเรื่องเดียว ทุกหน้าผลลัพธ์บนเว็บไซต์นี้พิมพ์จำนวนโทเคนและค่าใช้จ่ายของการเรียกครั้งนั้นออกมา

Jev ถูกฝึกมาอย่างไร

ด้วยสิ่งที่ TypeSafe เรียกว่า RLCD หรือการเรียนรู้แบบเสริมกำลังเพื่อการตัดสินใจที่ปรับเทียบแล้ว เป้าหมายที่ประกาศไว้ต่างจาก RLHF หรือ RLVR ไม่ใช่คำตอบที่คนชอบ และไม่ใช่คำตอบที่ผ่านตัวตรวจ แต่เป็นคำตอบที่ความน่าจะเป็นของมันซื่อตรงในเชิงญาณวิทยา นั่นคือสิ่งที่ทำให้ความมั่นใจคุ้มค่าแก่การตั้งเกณฑ์ ไม่ใช่แค่ของประดับ

ข้อจำกัดคืออะไร

รับเฉพาะข้อความ ไม่รับภาพ เสียง หรือวิดีโอ 64,000 โทเคนต่อคำขอ โดยสถานะบวกกับคำถามที่ยาวที่สุดหนึ่งข้อต้องอยู่ใน 32,000 โทเคน Choice รับได้ถึง 255 ตัวเลือก ส่วน Score รับ 2 ถึง 10 ระดับ ขีดจำกัดอัตราในช่วงเข้าถึงก่อนคือ 250,000 โทเคนต่อวินาที และ 1,200 คำขอต่อนาที และ TypeSafe เตือนว่าตัวเลขเหล่านี้จะเปลี่ยน

สิ่งที่ฉันวางเข้ามาจะเป็นอย่างไร

มันถูกส่งไปยัง TypeSafe เพื่อประเมิน และถูกเก็บในฐานข้อมูลของเว็บไซต์นี้เพื่อให้ผลลัพธ์มีลิงก์ถาวร การรันสาธารณะจะปรากฏในหน้าสำรวจและในเครื่องมือค้นหา การรันที่ไม่อยู่ในรายการก็ถูกเก็บเช่นกัน แต่ถูกกันออกจากหน้าสำรวจและแผนผังเว็บไซต์ และเสิร์ฟพร้อมส่วนหัว noindex ลิงก์ยังใช้งานได้กับใครก็ตามที่คุณส่งให้ ไม่ว่ากรณีใด อย่าวางข้อมูลอ่อนไหว นี่คือเดโมสาธารณะ

เว็บไซต์นี้พูดภาษาอะไรบ้าง

ส่วนติดต่อผู้ใช้ คลังเลนส์ และทุกหน้าอธิบายถูกเผยแพร่ใน 32 ภาษา เลือกได้จากส่วนหัวหรือจากการตั้งค่าภาษาของเบราว์เซอร์คุณ สิ่งที่คุณวางเข้ามาจะคงอยู่ตรงตามที่คุณเขียนทุกประการ และ Jev อ่านมันในภาษาที่มันเป็น ส่วนคำถามที่อยู่เบื้องหลังแต่ละเลนส์จะถูกส่งเป็นภาษาอังกฤษในทุกภาษา การรันหนึ่งครั้งจึงมีความหมายเดียวกันไม่ว่าจะทำขึ้นอย่างไร

TypeSafe เป็นคนดูแลเว็บนี้หรือเปล่า

ไม่ใช่ Dejev เป็นเดโมอิสระที่สร้างขึ้นเพื่อแสดงว่าผลลัพธ์ของ Jev หน้าตาเป็นอย่างไรเมื่อวาดมันออกมา ตัวโมเดล API และเอกสารเป็นของ TypeSafe

เจาะลึกต่อ

ตัวโมเดล ราคา ขอบที่ขรุขระ และชั้นหนังสือสูตรสำเร็จยาวเหยียด ล้วนอยู่ในเอกสารของ TypeSafe เอง