Τι είναι το Jev;

Γιατί δεν είναι γλωσσικό μοντέλο

Ένα LLM παράγει tokens· η μορφή αυτού που επιστρέφει είναι ελπίδα, όχι εγγύηση, και γι’ αυτό οι εφαρμογές που το χρησιμοποιούν για αποφάσεις καταλήγουν τυλιγμένες σε ανάλυση και επαναλήψεις. Το Jev παράγει μια τιμή του τύπου που όρισες. Δεν υπάρχει τίποτα να αναλυθεί ούτε κακοσχηματισμένη περίπτωση να αντιμετωπιστεί — τη θέση του βρόχου επανάληψης παίρνει ένας εντελώς άλλος κλάδος: αυτός που ενεργοποιείται όταν το μοντέλο είναι αβέβαιο, κάτι πολύ πιο χρήσιμο να το ξέρεις.

Τρεις μορφές, και τίποτε άλλο

Οι αριθμοί

Η TypeSafe τους δημοσιεύει· είναι τα δικά της νούμερα, όχι δικές μας μετρήσεις.

Ερωτήσεις

Τι είναι ένα μοντέλο System One;

Ένα μοντέλο φτιαγμένο για αποφάσεις και όχι για πρόζα. Το Jev παίρνει μία κατάσταση συν έναν χάρτη τυποποιημένων ερωτήσεων και επιστρέφει μία τυποποιημένη απάντηση ανά ερώτηση — χωρίς ροή token, χωρίς τίποτα προς ανάλυση και χωρίς τρόπο να βγάλει τιμή εκτός του συνόλου που όρισες. Η διατύπωση της TypeSafe είναι System One για γρήγορη δομημένη κρίση, με ένα συνηθισμένο γλωσσικό μοντέλο ως System Two όταν πραγματικά χρειάζεσαι γλώσσα.

Τι σημαίνει η βεβαιότητα;

Οι απαντήσεις Choice και Score φέρουν τιμή βεβαιότητας που προκύπτει από την κατανομή πιθανοτήτων τους: συγκεντρωμένη σημαίνει βέβαιη, απλωμένη σημαίνει ότι το μοντέλο δεν μπορεί να ξεχωρίσει τις επιλογές. Είναι ένας δεύτερος άξονας — η απάντηση σού λέει τι, η βεβαιότητα σού λέει αν πρέπει να ενεργήσεις. Οι απαντήσεις Noul δεν έχουν πεδίο βεβαιότητας, γιατί την κουβαλά ήδη η ίδια η πιθανότητα: το 0,51 είναι το μοντέλο που λέει ότι δεν ξέρει.

Μπορεί το Jev να παραισθάνεται;

Όχι ως προς τη μορφή της εξόδου του. Ένα Choice μπορεί να επιστρέψει μόνο μία από τις επιλογές που όρισες· ένα Score μπορεί να πέσει μόνο μέσα στην κλίμακά σου· ένα Noul είναι αριθμός μεταξύ 0 και 1. Μπορεί ωστόσο να σφάλλει ως προς το κείμενό σου — και ακριβώς γι’ αυτό υπάρχει η βεβαιότητα.

Γιατί το λένε Jev;

Από τον οικονομολόγο William Stanley Jevons. Η ανακοίνωση της TypeSafe λέει ότι αναμένουν η μηχανική νοημοσύνη να ακολουθήσει τον δρόμο που πήρε ο άνθρακας αφότου οι ατμομηχανές έγιναν αποδοτικές — το παράδοξο του Jevons, όπου το να γίνει κάτι φθηνότερο αυξάνει αντί να μειώνει τη χρήση του.

Μπορώ να τρέξω το Jev τοπικά; Είναι ανοιχτού κώδικα;

Όχι. Το Jev είναι ιδιόκτητο φιλοξενούμενο μοντέλο προσβάσιμο μέσω του HTTP API της TypeSafe· δεν υπάρχουν δημοσιευμένα βάρη προς λήψη, και τα ίδια βάρη εξυπηρετούν κάθε λογαριασμό — δεν γίνεται ειδική εκπαίδευση ή προσαρμογή LoRA ανά πελάτη. Διαμορφώνεις τις απαντήσεις του μέσα από το αίτημα: με ό,τι βάζεις στην κατάσταση και με το πώς γράφεις τις οδηγίες και τα κριτήρια κάθε ερώτησης.

Πόσο γρήγορο είναι το Jev;

Η TypeSafe αναφέρει 70–500 ms από άκρο σε άκρο, έναντι 3–329 δευτερολέπτων για τα μοντέλα αιχμής, και 40–200× ταχύτερο στο είδος ερωτήματος για το οποίο είναι φτιαγμένο. Αυτά είναι τα νούμερα του κατασκευαστή. Ό,τι μπορεί να πει αυτός ο ιστότοπος από τα δικά του αρχεία είναι ότι ένα αίτημα εννέα ερωτήσεων επιστρέφει συνήθως σε μερικές εκατοντάδες χιλιοστά του δευτερολέπτου — κάθε σελίδα αποτελέσματος δείχνει τον μετρημένο χρόνο για τη συγκεκριμένη κλήση.

Πόσο κοστίζει το Jev;

0,042 $ ανά εκατομμύριο εισερχόμενα token στο jev-1.13.0, με την έξοδο δωρεάν — δεν υπάρχει αυτοπαλινδρομική αποκωδικοποίηση προς χρέωση. Επειδή η κατάσταση διαβάζεται μία φορά και κάθε ερώτηση αξιολογείται πάνω της παράλληλα, το να ρωτήσεις δέκα πράγματα κοστίζει περίπου όσο και ένα. Κάθε σελίδα αποτελέσματος σε αυτόν τον ιστότοπο τυπώνει τον αριθμό των token και το κόστος εκείνης ακριβώς της κλήσης.

Πώς εκπαιδεύτηκε το Jev;

Με αυτό που η TypeSafe ονομάζει RLCD — ενισχυτική μάθηση για βαθμονομημένες αποφάσεις. Ο δηλωμένος στόχος διαφέρει από το RLHF ή το RLVR: όχι απαντήσεις που προτιμούν οι άνθρωποι ούτε απαντήσεις που περνούν έναν ελεγκτή, αλλά απαντήσεις των οποίων οι πιθανότητες είναι επιστημικά ειλικρινείς. Αυτό κάνει τη βεβαιότητα κάτι πάνω στο οποίο αξίζει να βάλεις κατώφλι και όχι διακοσμητικό.

Ποια είναι τα όρια;

Μόνο κείμενο στην είσοδο — χωρίς εικόνες, ήχο ή βίντεο. 64k token ανά αίτημα, εκ των οποίων η κατάσταση συν η μακρύτερη μεμονωμένη ερώτηση πρέπει να χωρούν σε 32k. Ένα Choice δέχεται έως 255 επιλογές· ένα Score δέχεται από 2 έως 10 επίπεδα. Τα όρια ρυθμού στην πρώιμη πρόσβαση είναι 250.000 token ανά δευτερόλεπτο και 1.200 αιτήματα ανά λεπτό, και η TypeSafe προειδοποιεί ότι αλλάζουν.