Όταν μιλάς με έναν φίλο από κοντά, μπορείς να τον δεις, να τον ακούσεις, να του σφίξεις το χέρι. Όταν μιλάτε με ένα μοντέλο AI, δεν έχετε σχεδόν καμία από αυτές τις διαβεβαιώσεις. Η νέα έρευνα της Anthropic στοχεύει ακριβώς σε αυτό το κενό: η εταιρεία δημοσίευσε πρόοδο σε κρυπτογραφικές αποδείξεις συμπερασμάτων, συμπεριλαμβανομένου ενός συστήματος που ονομάζεται FlashProve που μπορεί να αποδείξει - μαθηματικά, όχι συμβατικά - ότι μια απάντηση ήρθε πραγματικά από το μοντέλο που ισχυρίζεται ότι είναι.
Το πρόβλημα που αντιμετωπίζει το FlashProve είναι αθόρυβα δομικό. Ένας χρήστης που ρωτά ένα μοντέλο σήμερα δεν μπορεί να ελέγξει ότι οι απαντήσεις προέρχονται από το συγκεκριμένο μοντέλο που υποστηρίζει ο προγραμματιστής ότι ανταποκρίνεται, σε αντίθεση με μια που αντικαθίσταται κρυφά από μια υπηρεσία δρομολόγησης για λόγους κόστους ή ακόμα και από έναν εισβολέα που έχει παραβιάσει τη ροή διακριτικών. Το να κρίνουμε μόνο από το αποτέλεσμα είναι αναξιόπιστο, ακόμα κι αν οι απαντήσεις φαίνονται εξαιρετικές. Σε έναν κλάδο όπου το ίδιο παράθυρο συνομιλίας μπορεί να δρομολογηθεί σιωπηλά σε ένα φθηνότερο μοντέλο υπό φόρτωση, αυτό δεν αποτελεί υποθετική ανησυχία — είναι το προεπιλεγμένο μοντέλο εμπιστοσύνης. Για περισσότερη κάλυψη εργασιών όπως αυτή, ανατρέξτε στις [ειδήσεις έρευνας AI] (https://aibuzzwire.news).
Γιατί είναι δύσκολο να αποδειχθεί το συμπέρασμα
Ο στόχος του αποδείξιμου συμπεράσματος είναι να επιτρέψει σε έναν χρήστη με περιορισμένους υπολογιστικούς πόρους - και χωρίς πρόσβαση στα ιδιωτικά βάρη ενός μοντέλου - να επαληθεύσει ότι μια δεδομένη απόκριση δημιουργήθηκε πραγματικά από αυτό το μοντέλο. Η προφανής προσέγγιση, η επανεκτέλεση του μοντέλου μόνοι σας, δεν είναι αρχή: τα βάρη των συνοριακών μοντέλων παραμένουν ιδιωτικά και ο έλεγχος μιας απόκρισης σε σχέση με αυτά θα απαιτούσε υπολογισμό πολύ πέρα από αυτό που μπορεί να αντέξει ένας τυπικός χρήστης ή ακόμα και ένας καλά χρηματοδοτούμενος αξιολογητής.
Η προσέγγιση του Anthropic βασίζεται στα zkSNARKs, μια οικογένεια αποδείξεων μηδενικής γνώσης με ισχυρές ιδιότητες απόκρυψης και αποτελεσματικότητας που τα καθιστούν μοναδικά κατάλληλα για την εργασία. Ένας πάροχος δεσμεύεται σε ένα μοντέλο μία φορά και, στη συνέχεια, δημιουργεί μια συμπαγή απόδειξη για κάθε απάντηση ότι η απάντηση υπολογίστηκε από το δεσμευμένο μοντέλο — ενώ οι ίδιες οι αποδείξεις κρύβουν τα βάρη του μοντέλου. Η απόκρυψη της αρχιτεκτονικής δεν είναι στόχος του συστήματος. κρύβοντας τα βάρη είναι.
Οι αριθμοί
Τα στοιχεία απόδοσης στην ανάρτηση αποτελούν τον τεχνικό πυρήνα της ιστορίας, επειδή η παραγωγή αποδείξεων για μεγάλα μοντέλα ήταν ιστορικά τάξεις μεγέθους πολύ αργές για να έχουν σημασία. Για το Llama 4 Maverick, ένα μοντέλο μείγματος ειδικών 400 δισεκατομμυρίων παραμέτρων, μια μεμονωμένη GPU NVIDIA H100 παράγει αποδείξεις σε περίπου 110 tokens ανά δευτερόλεπτο, με μέγεθος απόδειξης περίπου 19 MB ανά αίτημα 1.024-token, χρησιμοποιώντας 4-bit κβαντισμένους αριθμούς βαρύτητας και 4-bit.
Αυτή η ταχύτητα έχει ένα κόστος: η παραγωγή απόδειξης απαιτεί περίπου 70 έως 95 φορές τον χρόνο GPU από την απλή εκτέλεση του ίδιου του μοντέλου σε vLLM, μια ευρέως χρησιμοποιούμενη βιβλιοθήκη συμπερασμάτων ανοιχτού κώδικα. Ακριβά, με άλλα λόγια — αλλά για πρώτη φορά στην ίδια τάξη μεγέθους με το αποδεδειγμένο πράγμα, και, σύμφωνα με την Anthropic, σημαντικά ταχύτερα από προηγούμενα συστήματα ανοιχτού κώδικα, τα οποία υστερούν κατά τάξεις μεγέθους.
Ο Claude το κατασκεύασε — και η Lean ελέγχει τις αξιώσεις
Υπάρχει μια δεύτερη ιστορία διπλωμένη μέσα στην πρώτη. Σύμφωνα με την ανάρτηση, ο ίδιος ο Claude παρήγαγε τις βελτιώσεις στα zkSNARKs για συμπέρασμα, βρίσκοντας νέους τρόπους εφαρμογής εργαλείων τελευταίας τεχνολογίας από τη βιβλιογραφία κρυπτογραφίας και ασφάλειας, ενώ βασιζόταν σε καθιερωμένες αρχές σχεδιασμού για συστήματα κρυπτογραφικής απόδειξης.
Η Anthropic είναι ειλικρινής σχετικά με τον κίνδυνο που συνεπάγεται αυτή η ροή εργασίας: Ο Claude είναι καλός στη βελτιστοποίηση, αλλά συχνά παίρνει αποφάσεις που είναι δύσκολο να αξιολογηθούν, ειδικά σε μεγάλα πολύπλοκα συστήματα. Το αντίμετρο είναι η επίσημη επαλήθευση. Η εταιρεία παρέχει ελεγχόμενες δηλώσεις ανώτατου επιπέδου σε Lean, μια επίσημη γλώσσα επαλήθευσης, για τις διεκδικούμενες εγγυήσεις ασφαλείας — μαθηματικά ελεγμένα από μηχανής μεταξύ των έξυπνων βελτιστοποιήσεων ενός AI και των χρηστών που πρέπει να τις εμπιστευτούν.
Η πλήρης στοίβα κυκλοφορεί με την άδεια Apache 2.0: η ανάρτηση ιστολογίου, μια τεχνική αναφορά που εξηγεί τις λεπτομέρειες του συστήματος, μια περιγραφή πρωτοκόλλου, εκτελέσιμος κώδικας που περιλαμβάνει έναν prover και δύο επαληθευτές — έναν γρήγορο επαληθευτή σε C++ και έναν αποδεδειγμένα σωστό επαληθευτή στο Lean — συν τα ίδια τα Lean proof και ένα διαδραστικό οπτικοποιητή για να βοηθήσει τον έλεγχο.
Από τη Συμμόρφωση στις Συνθήκες Βηματοδότησης AI
Τα ανθρωπικά σκίτσα χρησιμοποιούν περιπτώσεις που κυμαίνονται από ρουτίνα έως γεωπολιτικές. Οι ανεξάρτητοι αξιολογητές που δοκιμάζουν μοντέλα τεχνητής νοημοσύνης πριν και μετά την κυκλοφορία πρέπει να γνωρίζουν ότι το μοντέλο που αξιολογούν είναι το μοντέλο που εξυπηρετείται. Οι πελάτες που έχουν πρόσβαση σε ένα μοντέλο μέσω μιας υπηρεσίας δρομολόγησης τρίτου μέρους θέλουν τη διασφάλιση ότι τα διακριτικά προήλθαν από το μοντέλο για το οποίο πλήρωσαν. Και στο σενάριο ασφάλειας, ένας κυβερνοεπιτιθέμενος που τροποποιεί τη ροή του token ενώ υποδύεται ένα συγκεκριμένο μοντέλο γίνεται ανιχνεύσιμος με τρόπο που δεν μπορεί ποτέ να επιτευχθεί από μόνη της η επιθεώρηση εξόδου.
Η πιο φιλόδοξη εφαρμογή που αναφέρεται στην ανάρτηση είναι η επαλήθευση της συμμόρφωσης με τις απαιτήσεις ρυθμού τεχνητής νοημοσύνης - η αναδυόμενη κατηγορία συμφωνιών, εθελοντικών και κυβερνητικών, που προσπαθούν να καθορίσουν πόσο γρήγορα προχωρούν οι συνοριακές δυνατότητες. Σήμερα τέτοιες δεσμεύσεις βασίζονται στην εμπιστοσύνη και στη γραφειοκρατία. Οι κρυπτογραφικές αποδείξεις συμπερασμάτων προσφέρουν κάτι πιο κοντά στην επιθεώρηση: έναν τρόπο να αποδειχθεί, αντί να επιβεβαιωθεί, ποιο μοντέλο εξυπηρετεί έναν δεδομένο φόρτο εργασίας.
Οι ερευνητές είναι ξεκάθαροι ότι πρόκειται για ενδιάμεση πρόοδο, όχι για ολοκληρωμένη ερευνητική ατζέντα, και δημοσιεύουν με τον δεδηλωμένο στόχο να πάρουν την εργασία άλλοι και να τη βελτιώσουν. Αυτό το πλαίσιο είναι από μόνο του ένα μήνυμα: το αποδεδειγμένο συμπέρασμα έχει μετακινηθεί από το πείραμα σκέψης σεμιναρίου κρυπτογραφίας σε ένα μηχανικό πρόβλημα που τώρα ένα συνοριακό εργαστήριο αγωνίζεται ανοιχτά να το κάνει αρκετά φθηνό για να το αναπτύξει.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
