Πώς λειτουργεί

Ολόκληρο το αίτημα

Εσύ δίνεις την κατάσταση — ό,τι επικολλάς. Ο φακός δίνει τις ερωτήσεις. Το Jev επιστρέφει μία τυποποιημένη απάντηση ανά ερώτηση, με τα ίδια αναγνωριστικά ως κλειδιά.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

Πώς τα γραφήματα αντιστοιχούν στις απαντήσεις

Choice → δακτύλιος

Οι πιθανότητες αθροίζονται στη μονάδα, οπότε ο δακτύλιος εδώ είναι ειλικρινής: είναι γνήσια σχέση μέρους προς όλο. Το υπόμνημα επαναλαμβάνει κάθε επιλογή με την ακριβή τιμή της, επειδή ο δακτύλιος τα πάει άσχημα με τις οριακές διαφορές, ενώ οι αριθμοί όχι.

Score → λωρίδα κλίμακας

Η λωρίδα είναι τα επίπεδά σου με τη σειρά· ο δείκτης είναι η σταθμισμένη με πιθανότητες τιμή, γι’ αυτό συνήθως πέφτει ανάμεσα σε δύο από αυτά. Οι μπάρες από κάτω δείχνουν πώς απλώνεται η μάζα πιθανότητας — μια βαθμολογία 2,0 από στενή κορυφή και μια βαθμολογία 2,0 από δύο απομακρυσμένες καμπούρες είναι πολύ διαφορετικές απαντήσεις.

Noul → μετρητής

Ένας λόγος σε σχέση με ένα όριο, γι’ αυτό παίρνει μετρητή αντί για γράφημα. Η γκρίζα ζώνη γύρω από τη μέση σημειώνει πού το μοντέλο ουσιαστικά λέει «δεν ξέρω» — ένα 0,51 δεν πρέπει ποτέ να διαβαστεί ως ναι.

Οι φακοί

Κάθε φακός είναι απλώς ένα σταθερό σύνολο ερωτήσεων, επιλεγμένο για να δείξει διαφορετικό κομμάτι από όσα μπορεί το Jev. Μπορείς επίσης να γράψεις τις δικές σου.

• Ακτινογραφία μηνύματος

  Τι σου ζητά στην πραγματικότητα αυτό το μήνυμα;

  9 ερωτήσεις

• Διαλογή υποστήριξης

  Δρομολόγησε ένα αίτημα πριν το ανοίξει άνθρωπος.

  9 ερωτήσεις

• Δικλίδα ασφαλείας

  Έλεγξε μια προτροπή πριν φτάσει στο μοντέλο σου.

  9 ερωτήσεις

• Κριτική προσχεδίου

  Εννέα αναγνώσεις ενός προσχεδίου, πριν το στείλεις.

  9 ερωτήσεις

• Αποκωδικοποιητής κριτικών

  Τι σου λέει πραγματικά μια κριτική πελάτη.

  9 ερωτήσεις

• Διαλογή αναφορών σφαλμάτων

  Σοβαρότητα, συστατικό και αν μπορεί κανείς να το αναπαραγάγει.

  9 ερωτήσεις

• Φακός τίτλων

  Πώς πλαισιώνεται μια είδηση.

  9 ερωτήσεις

• Έλεγχος παρουσίασης

  Θα συνέχιζε να διαβάζει ένας επενδυτής ή ένας πελάτης;

  9 ερωτήσεις

Ερωτήσεις

Τι είναι ένα μοντέλο System One;

Ένα μοντέλο φτιαγμένο για αποφάσεις και όχι για πρόζα. Το Jev παίρνει μία κατάσταση συν έναν χάρτη τυποποιημένων ερωτήσεων και επιστρέφει μία τυποποιημένη απάντηση ανά ερώτηση — χωρίς ροή token, χωρίς τίποτα προς ανάλυση και χωρίς τρόπο να βγάλει τιμή εκτός του συνόλου που όρισες. Η διατύπωση της TypeSafe είναι System One για γρήγορη δομημένη κρίση, με ένα συνηθισμένο γλωσσικό μοντέλο ως System Two όταν πραγματικά χρειάζεσαι γλώσσα.

Γιατί όλα τρέχουν σε ένα μόνο αίτημα;

Το Jev προσλαμβάνει την κατάσταση μία φορά και αξιολογεί κάθε ερώτηση πάνω της παράλληλα. Δέκα ερωτήσεις σε μία κλήση κοστίζουν περίπου μία κλήση εισερχόμενων token αντί για δέκα και διαρκούν περίπου όσο μία. Γι’ αυτό κάθε φακός εδώ ρωτά εννέα πράγματα ταυτόχρονα αντί να αλυσοδένει προτροπές.

Τι σημαίνει η βεβαιότητα;

Οι απαντήσεις Choice και Score φέρουν τιμή βεβαιότητας που προκύπτει από την κατανομή πιθανοτήτων τους: συγκεντρωμένη σημαίνει βέβαιη, απλωμένη σημαίνει ότι το μοντέλο δεν μπορεί να ξεχωρίσει τις επιλογές. Είναι ένας δεύτερος άξονας — η απάντηση σού λέει τι, η βεβαιότητα σού λέει αν πρέπει να ενεργήσεις. Οι απαντήσεις Noul δεν έχουν πεδίο βεβαιότητας, γιατί την κουβαλά ήδη η ίδια η πιθανότητα: το 0,51 είναι το μοντέλο που λέει ότι δεν ξέρει.

Μπορεί το Jev να παραισθάνεται;

Όχι ως προς τη μορφή της εξόδου του. Ένα Choice μπορεί να επιστρέψει μόνο μία από τις επιλογές που όρισες· ένα Score μπορεί να πέσει μόνο μέσα στην κλίμακά σου· ένα Noul είναι αριθμός μεταξύ 0 και 1. Μπορεί ωστόσο να σφάλλει ως προς το κείμενό σου — και ακριβώς γι’ αυτό υπάρχει η βεβαιότητα.

Γιατί το λένε Jev;

Από τον οικονομολόγο William Stanley Jevons. Η ανακοίνωση της TypeSafe λέει ότι αναμένουν η μηχανική νοημοσύνη να ακολουθήσει τον δρόμο που πήρε ο άνθρακας αφότου οι ατμομηχανές έγιναν αποδοτικές — το παράδοξο του Jevons, όπου το να γίνει κάτι φθηνότερο αυξάνει αντί να μειώνει τη χρήση του.

Μπορώ να τρέξω το Jev τοπικά; Είναι ανοιχτού κώδικα;

Όχι. Το Jev είναι ιδιόκτητο φιλοξενούμενο μοντέλο προσβάσιμο μέσω του HTTP API της TypeSafe· δεν υπάρχουν δημοσιευμένα βάρη προς λήψη, και τα ίδια βάρη εξυπηρετούν κάθε λογαριασμό — δεν γίνεται ειδική εκπαίδευση ή προσαρμογή LoRA ανά πελάτη. Διαμορφώνεις τις απαντήσεις του μέσα από το αίτημα: με ό,τι βάζεις στην κατάσταση και με το πώς γράφεις τις οδηγίες και τα κριτήρια κάθε ερώτησης.

Πόσο γρήγορο είναι το Jev;

Η TypeSafe αναφέρει 70–500 ms από άκρο σε άκρο, έναντι 3–329 δευτερολέπτων για τα μοντέλα αιχμής, και 40–200× ταχύτερο στο είδος ερωτήματος για το οποίο είναι φτιαγμένο. Αυτά είναι τα νούμερα του κατασκευαστή. Ό,τι μπορεί να πει αυτός ο ιστότοπος από τα δικά του αρχεία είναι ότι ένα αίτημα εννέα ερωτήσεων επιστρέφει συνήθως σε μερικές εκατοντάδες χιλιοστά του δευτερολέπτου — κάθε σελίδα αποτελέσματος δείχνει τον μετρημένο χρόνο για τη συγκεκριμένη κλήση.

Πόσο κοστίζει το Jev;

0,042 $ ανά εκατομμύριο εισερχόμενα token στο jev-1.13.0, με την έξοδο δωρεάν — δεν υπάρχει αυτοπαλινδρομική αποκωδικοποίηση προς χρέωση. Επειδή η κατάσταση διαβάζεται μία φορά και κάθε ερώτηση αξιολογείται πάνω της παράλληλα, το να ρωτήσεις δέκα πράγματα κοστίζει περίπου όσο και ένα. Κάθε σελίδα αποτελέσματος σε αυτόν τον ιστότοπο τυπώνει τον αριθμό των token και το κόστος εκείνης ακριβώς της κλήσης.

Πώς εκπαιδεύτηκε το Jev;

Με αυτό που η TypeSafe ονομάζει RLCD — ενισχυτική μάθηση για βαθμονομημένες αποφάσεις. Ο δηλωμένος στόχος διαφέρει από το RLHF ή το RLVR: όχι απαντήσεις που προτιμούν οι άνθρωποι ούτε απαντήσεις που περνούν έναν ελεγκτή, αλλά απαντήσεις των οποίων οι πιθανότητες είναι επιστημικά ειλικρινείς. Αυτό κάνει τη βεβαιότητα κάτι πάνω στο οποίο αξίζει να βάλεις κατώφλι και όχι διακοσμητικό.

Ποια είναι τα όρια;

Μόνο κείμενο στην είσοδο — χωρίς εικόνες, ήχο ή βίντεο. 64k token ανά αίτημα, εκ των οποίων η κατάσταση συν η μακρύτερη μεμονωμένη ερώτηση πρέπει να χωρούν σε 32k. Ένα Choice δέχεται έως 255 επιλογές· ένα Score δέχεται από 2 έως 10 επίπεδα. Τα όρια ρυθμού στην πρώιμη πρόσβαση είναι 250.000 token ανά δευτερόλεπτο και 1.200 αιτήματα ανά λεπτό, και η TypeSafe προειδοποιεί ότι αλλάζουν.

Τι γίνεται με ό,τι επικολλώ;

Στέλνεται στην TypeSafe για αξιολόγηση και αποθηκεύεται στη βάση αυτού του ιστότοπου ώστε το αποτέλεσμα να έχει μόνιμο σύνδεσμο. Οι δημόσιες εκτελέσεις εμφανίζονται στην Εξερεύνηση και στις μηχανές αναζήτησης. Οι μη καταχωρημένες αποθηκεύονται επίσης, αλλά μένουν εκτός Εξερεύνησης και χάρτη ιστότοπου και σερβίρονται με κεφαλίδα noindex — ο σύνδεσμος λειτουργεί για όποιον του τον δώσεις. Σε κάθε περίπτωση, μην επικολλάς τίποτα ευαίσθητο: αυτή είναι δημόσια επίδειξη.

Ποιες γλώσσες μιλά αυτός ο ιστότοπος;

Η διεπαφή, η βιβλιοθήκη φακών και κάθε επεξηγηματική σελίδα δημοσιεύονται σε 32 γλώσσες, επιλεγμένες από την κεφαλίδα ή από τη ρύθμιση γλώσσας του προγράμματος περιήγησής σου. Ό,τι επικολλάς μένει ακριβώς όπως το έγραψες, και το Jev το διαβάζει στη γλώσσα στην οποία είναι — οι ερωτήσεις πίσω από κάθε φακό στέλνονται στα αγγλικά σε κάθε γλώσσα, ώστε μια εκτέλεση να σημαίνει το ίδιο όπως κι αν έγινε.

Το διαχειρίζεται η TypeSafe;

Όχι. Το Dejev είναι ανεξάρτητη επίδειξη φτιαγμένη για να δείξει πώς μοιάζει η έξοδος του Jev όταν την αποτυπώνεις. Το μοντέλο, το API και η τεκμηρίωση ανήκουν στην TypeSafe.

Πήγαινε βαθύτερα

Το μοντέλο, η τιμολόγηση, οι οδοντωτές άκρες και ένα μακρύ ράφι από οδηγούς βρίσκονται όλα στην ίδια την τεκμηρίωση της TypeSafe.