Η Cloudflare ανακοίνωσε την Τρίτη την προεπισκόπηση του Clairic, ενός μοντέλου εξαγωγής που η εταιρεία περιγράφει ως το πρώτο μιας νέας κατηγορίας μοντέλων "System One" που έχουν σχεδιαστεί για να αντλούν δομημένες τιμές από μη δομημένα δεδομένα χωρίς καμία από τη γενιά διακριτικών που ορίζει μεγάλα γλωσσικά μοντέλα. Το μοντέλο είναι διαθέσιμο τώρα σε προεπισκόπηση στην πλατφόρμα Workers AI του Cloudflare ως @cf/cloudflare/clairic και η εταιρεία λέει ότι σκοπεύει να κυκλοφορήσει ανοιχτά τα βάρη του μοντέλου στο εγγύς μέλλον.
Το λανσάρισμα τοποθετεί το Cloudflare σε μια από τις πιο ενδιαφέρουσες συζητήσεις που αναδιαμορφώνουν τώρα την αγορά υποδομής AI: εάν κάθε εργασία που ανατίθεται σε ένα LLM χρειάζεται πραγματικά ένα LLM. For more context on this story, see our ongoing more AI stories.
Τι κάνει το Clairic — και τι δεν κάνει επίτηδες
Το Clairic έχει σχεδιαστεί για μια στενή αλλά εξαιρετικά κοινή δουλειά: ανάγνωση ακατάστατης, αδόμητης εισαγωγής και επιστροφή πληκτρολογημένων τιμών. Σύμφωνα με την ανακοίνωση της Cloudflare, το μοντέλο μπορεί να εξάγει, να υπολογίσει, να εκτιμήσει και να προβλέψει τιμές από μη δομημένες εισόδους, επιστρέφοντας αριθμούς με εύρος 80%, πληκτρολογημένες τιμές όπως ονόματα, ημερομηνίες, ώρες και λίστες και πλήρεις κατανομές πιθανοτήτων — καθεμία με βαθμονομημένη εμπιστοσύνη.
Αυτό που δεν κάνει είναι να δημιουργεί κείμενο. Ένα ερώτημα στο Clairic επιστρέφει είτε μια τιμή του τύπου που δήλωσε ο προγραμματιστής είτε ένα μηδενικό αποτέλεσμα σε συνδυασμό με μια βαθμολογία p_null που εκτιμά την πιθανότητα η απάντηση απλά να μην υπάρχει στην είσοδο. Κάθε απάντηση αποστέλλεται με βαθμολογία εμπιστοσύνης, ώστε τα μεταγενέστερα συστήματα να μπορούν να αποφασίσουν αν θα την εμπιστευτούν ή θα την επισημάνουν για ανθρώπινη εξέταση.
Το Cloudflare είναι ξεκάθαρο σχετικά με την ανταλλαγή. Επειδή το Clairic δεν δημιουργεί διακριτικά, δεν μπορεί να παράγει JSON με κακή μορφή, να διαβάσει εσφαλμένα ένα ψηφίο μέσης γενιάς ή να παραισθήσει μια απάντηση με τον τρόπο που μπορεί ένα LLM. Μπορεί ακόμα να κάνει λάθη - η εταιρεία είναι προσεκτική σε αυτό το σημείο - αλλά οι αποτυχίες της είναι τυποποιημένες και μετρήσιμες και όχι ελεύθερης μορφής.
Η ετικέτα «System One», εξηγείται
Η ορολογία προέρχεται από την startup τεχνητής νοημοσύνης TypeSafe, η οποία ανακοίνωσε τα δικά της μοντέλα System One πριν από περίπου ένα μήνα και γρήγορα έγινε μια από τις πιο πολυσυζητημένες κυκλοφορίες στην κοινότητα προγραμματιστών. Το πλαίσιο δανείζεται από το βιβλίο του ψυχολόγου Daniel Kahneman "Thinking, Fast and Slow": Η σκέψη του System One είναι γρήγορη, αυτόματη και ακριβής, ενώ η σκέψη System Two είναι αργή και σκόπιμη. Το TypeSafe χαρτογράφησε αυτή τη διάκριση σε μοντέλα τεχνητής νοημοσύνης, υποστηρίζοντας ότι πολλοί φόρτοι εργασίας παραγωγής χρειάζονται γρήγορες, καλά τυπωμένες απαντήσεις αντί για συλλογισμούς ανοιχτού τύπου.
Το TypeSafe's Jev, ένα μοντέλο απόφασης που δημιουργήθηκε ειδικά για έναν συγκεκριμένο τομέα, έλαβε τις πιθανότητες ως εισόδους και επέστρεψε τις πιθανότητες σε μια σταθερή λίστα πιθανών απαντήσεων. Μέχρι τώρα, αυτή ήταν όλη η κατηγορία: κάθε μοντέλο System One ήταν ένα μοντέλο απόφασης.
Η Clairic επεκτείνει την έννοια. Όταν ένα μοντέλο απόφασης επιλέγει μεταξύ προκαθορισμένων επιλογών, ένα μοντέλο εξαγωγής απαντά με τιμές — αριθμούς που αντλούνται απευθείας από την είσοδο, υπολογίζονται από αυτήν ή προβλέπονται πέρα από αυτήν. Το Cloudflare λέει ότι οι δύο οικογένειες μοντέλων, μαζί με τα συμβατικά LLM, σχηματίζουν τώρα μια στοίβα τριών επιπέδων: τα μοντέλα εξαγωγής μετατρέπουν την ακατέργαστη είσοδο σε πληκτρολογημένες τιμές, τα μοντέλα αποφάσεων μετατρέπουν τις τιμές σε αποφάσεις και τα LLM μετατρέπουν τις αποφάσεις σε λέξεις.
Γιατί η εξαγωγή είναι ώριμη για επανεξέταση
Το επιχείρημα του Cloudflare βασίζεται στο πόσο μεγάλο μέρος της σημερινής κίνησης LLM δαπανάται σε εργασία που δεν μοιάζει καθόλου με συζήτηση. Η εταιρεία αποκαλεί την εξαγωγή «πιθανώς την πιο κοινή δουλειά που δίνεται στους LLM σήμερα» — η εξαγωγή ενός συνόλου τιμολογίου, μιας ημερομηνίας παράδοσης ή ενός αριθμού ανταλλακτικού από ένα έγγραφο.
Το πρόβλημα, σύμφωνα με την Cloudflare, είναι ότι οι LLM χειρίζονται αυτή τη δουλειά με μηχανήματα κατασκευασμένα για κάτι άλλο. Η έξοδος ενδέχεται να μην είναι έγκυρη JSON. Ένα ψηφίο μπορεί να διαβαστεί εσφαλμένα καθώς δημιουργούνται διακριτικά. Ένα απόσπασμα κειμένου που επιστρέφεται δεν μπορεί να εντοπιστεί στη θέση του στο έγγραφο προέλευσης. Οι ομάδες ανταποκρίνονται τυλίγοντας μοντέλα σε αμυντικούς αγωγούς: επικυρωτές σχήματος, λογική επανάληψης, ανάλυση επιπέδων και επιτόπιους ελέγχους. Και επειδή τα LLM χρεώνουν για συλλογιστική και διακριτικά εξόδου, κάθε πεδίο κάθε εγγράφου φέρει ένα κόστος παραγωγής που κλιμακώνεται με τη λεξιλογία και όχι με τη δυσκολία της εργασίας.
Ένα μοντέλο εξαγωγής System One αντιστρέφει αυτή την οικονομία. Το Cloudflare λέει ότι το Clairic επεξεργάζεται την είσοδο με ένα μόνο εμπρός πέρασμα, χρεώνει μόνο τα διακριτικά εισόδου και συνήθως αποκρίνεται σε λιγότερο από ένα δευτερόλεπτο — ενώ ένα συλλογιστικό LLM που εργάζεται στα ίδια πεδία μπορεί να διαρκέσει αρκετά δευτερόλεπτα. Για την επεξεργασία εγγράφων μεγάλου όγκου, η διαφορά γίνεται γρήγορα.
Πώς λειτουργεί πραγματικά ένα αίτημα
Οι προγραμματιστές στέλνουν στο Clairic μια κατάσταση — το κείμενο προς ανάγνωση, συν έως και τέσσερις προαιρετικές εικόνες — μαζί με έναν χάρτη πληκτρολογημένων πεδίων. Κάθε πεδίο φέρει ένα όνομα, έναν τύπο και προαιρετικές οδηγίες σε απλή γλώσσα. Το μοντέλο επιστρέφει μία δακτυλογραφημένη απάντηση ανά πεδίο, που υπολογίζεται σε ένα παράλληλο πέρασμα. Εάν η λίστα πεδίων δεν χωράει δίπλα στην είσοδο σε ένα πέρασμα, ο διακομιστής χωρίζει την εργασία σε παράλληλα περάσματα που το καθένα βλέπει την πλήρη είσοδο και, στη συνέχεια, συγχωνεύει τις απαντήσεις.
Για εργασίες εκτίμησης, οι απαντήσεις έρχονται ως κατανομή: μια διάμεσος με ένα διάστημα 80% που εκτείνεται από το 10ο έως το 90ο εκατοστημόριο, με και τα 99 εκατοστημόρια διαθέσιμα κατόπιν αιτήματος. Αυτό καθιστά το μοντέλο χρησιμοποιήσιμο για ερωτήσεις τύπου πρόβλεψης — αναμενόμενο κόστος επισκευής, χρονοδιαγράμματα παράδοσης, κίνηση την επόμενη ημέρα — όπου μια εκτίμηση μόνο σημείου θα υπερεκτίμησε τη βεβαιότητα του μοντέλου.
Ένα σήμα για την αγορά υποδομών
Το αν η ίδια η Clairic τα καταφέρει είναι σχεδόν εκτός θέματος. Το λανσάρισμα είναι άλλο ένα σημείο δεδομένων σε μια γρήγορη μετατόπιση μεταξύ των παρόχων υποδομής προς μοντέλα σωστού μεγέθους σε εργασίες: μικρά, γρήγορα, φθηνά μοντέλα για περιορισμένη δομημένη εργασία, με LLM που προορίζονται για αυθεντικά ανοιχτούς συλλογισμούς. Η τοποθέτηση του Cloudflare - ότι τα μοντέλα εξαγωγής, απόφασης και γλώσσας θα πρέπει να λειτουργούν από κοινού - είναι ένα σχέδιο για το πώς πιστεύει ότι θα συναρμολογηθούν οι στοίβες AI παραγωγής.
Η εταιρεία δεν έχει ανακοινώσει ημερομηνία για την υποσχόμενη κυκλοφορία των ανοιχτών βαρών. Προς το παρόν, το Clairic είναι διαθέσιμο σε προεπισκόπηση στο Workers AI, όπου οι προγραμματιστές μπορούν να το δοκιμάσουν έναντι του δικού τους φόρτου εργασίας εξαγωγής — και να μάθουν πόσο από το λογαριασμό τους LLM ήταν πραγματικά απαραίτητο.
_Αυτό το άρθρο βασίζεται στην επίσημη ανακοίνωση της Cloudflare για την προεπισκόπηση του μοντέλου εξαγωγής Clairic._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
