Μια startup που ονομάζεται TypeSafe AI προέκυψε από δύο χρόνια μυστικότητας αυτή την εβδομάδα με ένα τολμηρό βήμα: η βιομηχανία έχει δημιουργήσει το λάθος είδος μοντέλου για την αυτοματοποίηση. Το πρώτο της προϊόν, ένα σύστημα που ονομάζεται Jev, είναι αυτό που η εταιρεία αποκαλεί "System One Model" και γρήγορα έγινε η πιο πολυσυζητημένη ιστορία στο Hacker News, συγκεντρώνοντας περισσότερους από 1.800 βαθμούς.
"Τα μοντέλα είναι υπεράνθρωποι στο chat εδώ και χρόνια, οπότε πού είναι όλος ο αυτοματισμός;" ρωτά η εταιρεία στην ανάρτησή της. Ο ιδρυτής, πρώην ερευνητής του OpenAI, λέει ότι οι μέθοδοι που βοήθησε να κατασκευαστούν εκεί έγιναν η έρευνα πίσω από το ChatGPT και ότι κάποτε πίστευε ότι τα μοντέλα συνομιλίας θα οδηγούσαν στην τεχνητή γενική νοημοσύνη πριν καταλήξει στο συμπέρασμα ότι κάτι μεγάλο έλειπε. For more context on this story, see our ongoing AI trends.
Τι είναι ένα μοντέλο System One;
Το όνομα δανείζεται από τη διάκριση της ψυχολογίας μεταξύ γρήγορης, διαισθητικής σκέψης System One και αργού, σκόπιμου συλλογισμού System Two. Εκεί που τα σημερινά μεγάλα γλωσσικά μοντέλα δημιουργούν κείμενο διακριτικό ανά διακριτικό, το Jev είναι κατασκευασμένο για να λαμβάνει γρήγορες, δομημένες αποφάσεις που το λογισμικό μπορεί να καταναλώσει άμεσα.
Η εταιρεία περιγράφει το μοντέλο ως «μια κλήση συνάρτησης συνοριακής νοημοσύνης: μη δομημένη κατάσταση εισόδου, δακτυλογραφημένες πιθανοτικές αποφάσεις έξω». Αντί να παράγει πεζογραφία που πρέπει να αναλυθεί και να επικυρωθεί, το Jev εξάγει προκαθορισμένες δομημένες τιμές, καθεμία συνοδευόμενη από βαθμονομημένες πιθανότητες και βαθμολογίες εμπιστοσύνης. Η εταιρεία ισχυρίζεται ότι το μοντέλο δεν κάνει ποτέ λάθη τύπου και δεν μπορεί να έχει ψευδαισθήσεις όπως τα μοντέλα κειμένου, αν και τέτοιοι ισχυρισμοί προμηθευτών απαιτούν έλεγχο μέχρι να αξιολογηθούν ανεξάρτητα.
Η αρχιτεκτονική διαφορά είναι ο μηχανισμός παράδοσης. Σύμφωνα με την ανάρτηση, το Jev παράγει όλες τις εξόδους του με ένα μόνο παράλληλο πέρασμα και όχι αυτοπαλινδρομικά, ένα διακριτικό τη φορά. Η εταιρεία λέει ότι η εγκατάλειψη της δημιουργίας συμβολοσειρών ελεύθερης μορφής είναι ακριβώς αυτό που της εξαγοράζει την ταχύτητα: οι έξοδοι υπολογίζονται ταυτόχρονα και όχι διαδοχικά.
Μια νέα προπονητική συνταγή
Κάτω από την κουκούλα, η TypeSafe λέει ότι δημιούργησε μια νέα στοίβα: μια προσαρμοσμένη αρχιτεκτονική μοντέλων, τον παράλληλο δειγματολήπτη και μια μέθοδο εκπαίδευσης που ονομάζει Reinforcement Learning for Calibrated Decisions ή RLCD. Η εταιρεία τοποθετεί το RLCD ενάντια στις δύο κυρίαρχες συνταγές του κλάδου. Η ενίσχυση της μάθησης από την ανθρώπινη ανατροφοδότηση βελτιστοποιεί τις απαντήσεις που προτιμούν οι αξιολογητές. Η ενισχυτική μάθηση με επαληθεύσιμες ανταμοιβές βελτιστοποιεί για αποτελέσματα που μπορούν να ελεγχθούν μέσω προγραμματισμού. Αντίθετα, το RLCD εκπαιδεύει το μοντέλο να προσαρτά γνωσιολογικά ειλικρινείς πιθανότητες στις απαντήσεις του σε εργασίες γρήγορης κρίσης.
Το αποτέλεσμα, για την εταιρεία: η υψηλότερη εμπιστοσύνη θα πρέπει να συσχετίζεται με υψηλότερη ακρίβεια και παρόμοιες εισροές θα πρέπει να παράγουν συνεπή αποτελέσματα, ιδιότητες που έχουν σημασία όταν οι αποφάσεις ενός μοντέλου συνδέονται απευθείας στο λογισμικό παραγωγής.
Οι αξιώσεις απόδοσης και τιμολόγησης
Οι αξιώσεις είναι επιθετικές ακόμη και για τα πρότυπα startup. Το TypeSafe λέει ότι ο Jev έχει παρόμοια ευφυΐα με τα υπάρχοντα LLM σε αυτό που ονομάζει εργασίες System One ενώ εκτελείται 40x έως 200x πιο γρήγορα για αυτά τα σχήματα ερωτημάτων. Η αρχική σελίδα της εταιρείας αναφέρει στοιχεία 193,6 φορές ταχύτερα και 444,6 φορές φθηνότερα, αν και η ανάρτηση ιστολογίου παραδέχεται ότι αυτά είναι "στο υψηλότερο επίπεδο των κερδών του πραγματικού κόσμου". Η εταιρεία λέει επίσης ότι το μοντέλο επιτυγχάνει ταχύτητες γύρω στα 100 χιλιοστά του δευτερολέπτου, αρκετά γρήγορα ώστε να ενσωματώνει την κρίση AI σε ροές εργασίας που αντιμετωπίζουν οι χρήστες, όπου ο λανθάνοντας χρόνος είναι κρίσιμος.
Η τιμολόγηση ακολουθεί τον αντισυμβατικό σχεδιασμό. Το TypeSafe απαριθμεί τα διακριτικά εισόδου στα 0,042 $ ανά εκατομμύριο διακριτικά, περίπου 42 $ ανά δισεκατομμύριο, και σημειώνει ότι η συνήθης δομή κόστους LLM είναι ανεστραμμένη: επειδή το Jev παράγει δομημένες εξόδους παράλληλα αντί να δημιουργεί μακριές συμβολοσειρές, η ακριβή πλευρά του κουπονιού εξόδου του καθολικού εξαφανίζεται σε μεγάλο βαθμό. Η εταιρεία το συγκρίνει αυτό με τα συμβατικά μοντέλα, όπου τα διακριτικά εξόδου κοστίζουν συνήθως πολλές φορές περισσότερο από τα διακριτικά εισόδου.
Οι αποδείξεις και τα όριά τους
Προς τιμήν του, η ανάρτηση εκτόξευσης επιχειρεί να τεκμηριώσει τη διαφημιστική εκστρατεία με επιδείξεις δίπλα-δίπλα. Για τη σύγκριση των επικεφαλίδων της, η εταιρεία χρησιμοποίησε το GPT-5.6 Terra με προεπιλεγμένο σκεπτικό, το οποίο περιγράφει ως το πιο συγκρίσιμο μοντέλο με το Jev στη μέση νοημοσύνη. Οι απαντήσεις αναφοράς στις αξιολογήσεις της υπολογίζονται ως ο μέσος όρος του GPT-6 Astra του OpenAI και του Fable 5.1 του Anthropic, μια επιλογή που η εταιρεία αναγνωρίζει ότι προκατέχει τις συγκρίσεις της προς τα υπάρχοντα εργαστήρια. Οι αριθμοί κόστους και καθυστέρησης για την πλευρά LLM προέρχονται από το OpenRouter, το οποίο η εταιρεία σημειώνει ότι εισάγει τις δικές του προκαταλήψεις δρομολόγησης.
Αυτή η ενότητα μεθοδολογίας είναι ασυνήθιστα ειλικρινής για μια ανακοίνωση κυκλοφορίας, και είναι επίσης όπου θα εστιάσουν οι σκεπτικιστές. Όλοι οι αριθμοί επικεφαλίδων προέρχονται από εργασίες που επέλεξε η ίδια η εταιρεία, που περιγράφονται ως αποφάσεις που μπορούν να ταξινομηθούν, να δρομολογηθούν, να βαθμολογηθούν, να εξαχθούν ή να διακλαδιστούν, ακριβώς τα σχήματα που προτιμά η αρχιτεκτονική της. Δεν υπάρχουν ακόμη ανεξάρτητα σημεία αναφοράς και το πλαίσιο της εταιρείας παραδέχεται ότι οι συγκρίσεις εξαρτώνται από την επιλογή ερωτήματος.
Γιατί αντήχησε το Launch
Η ενθουσιώδης υποδοχή των Hacker News, όπου η ανάρτηση ξεπέρασε τους 1.800 πόντους μέσα σε μια μέρα, υποδηλώνει ότι το γήπεδο αγγίζει ένα γνήσιο νεύρο. Οι προγραμματιστές που κατασκευάζουν προϊόντα τεχνητής νοημοσύνης πέρασαν δύο χρόνια παλεύοντας με το χάσμα μεταξύ εντυπωσιακών επιδείξεων και αξιόπιστων αυτοματισμών: ψευδαισθήσεις, κλήσεις εργαλείων, ασυνεπείς κρίσεις, ακριβές αλυσίδες αργών συλλογιστικών βημάτων που συνδέονται με εύθραυστο κώδικα κόλλας.
Το στοίχημα του TypeSafe είναι ότι ένα σημαντικό μερίδιο του πραγματικού φόρτου εργασίας τεχνητής νοημοσύνης δεν χρειάζεται καθόλου ένα φλύαρο μοντέλο. Οι έλεγχοι απάτης, η αξιολόγηση εισιτηρίων υποστήριξης, η βαθμολογία δυνητικού πελάτη, η εποπτεία περιεχομένου, η ανάλυση αρχείων καταγραφής και οι αμέτρητες αποφάσεις δρομολόγησης είναι βασικά προβλήματα ταξινόμησης με καλά καθορισμένους χώρους εξόδου. Για αυτούς, ένα εξειδικευμένο μοντέλο που επιστρέφει βαθμονομημένες πιθανότητες σε χιλιοστά του δευτερολέπτου θα μπορούσε να υποβαθμίσει τα LLM γενικής χρήσης τόσο σε ταχύτητα όσο και σε κόστος.
Το αντεπιχείρημα είναι επίσης γνωστό: τα γενικά μοντέλα γίνονται όλο και καλύτερα και φθηνότερα, και η ευέλικτη διεπαφή συμβολοσειρών που κάνει τα LLM απρόβλεπτα είναι επίσης αυτό που τα καθιστά προσαρμόσιμα σε νέες εργασίες χωρίς επανεκπαίδευση. Μια μηχανή στενής απόφασης πρέπει να βρει αρκετό ομοιογενή όγκο φόρτου εργασίας για να δικαιολογήσει την ύπαρξή της.
Το Jev είναι διαθέσιμο σε πρώιμη πρόσβαση από αυτήν την εβδομάδα. Είτε γίνει μια νέα κατηγορία είτε μια περίεργη υποσημείωση, η κυκλοφορία προσθέτει μια ξεχωριστή φωνή σε ένα επιχείρημα του κλάδου που γίνεται όλο και πιο δυνατό: ο ταχύτερος δρόμος για την αυτοματοποίηση τεχνητής νοημοσύνης μπορεί να μην εκτελείται από μεγαλύτερα chatbot, αλλά από μοντέλα σχεδιασμένα από τις πρώτες αρχές για να κάνουν ακριβώς ένα πράγμα, γρήγορα και να σας πουν πόσο σίγουροι είναι.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
