Όποιος έχει δουλέψει με έναν πράκτορα τεχνητής νοημοσύνης σε ένα έργο που διαρκεί αρκετές ημέρες, γνωρίζει τον τοίχο: κάθε νέα συνεδρία ξεκινά από την αρχή. Σε μια νέα ερευνητική δημοσίευση, η Anthropic περιγράφει πώς ο Claude έχει σχεδιαστεί για να διατηρεί τη γνώση σε όλες τις περιόδους σύνδεσης ενώ το υποκείμενο μοντέλο παραμένει αμετάβλητο — γράφοντας σημειώσεις σε ένα φάκελο που μπορεί να διαβαστεί αργότερα. Το εκπληκτικό εύρημα είναι ότι το πιο δύσκολο μέρος της μνήμης του πράκτορα δεν είναι η αποθήκευση. Είναι επιλογή.
Το βασικό πρόβλημα, σύμφωνα με την Anthropic, είναι ότι ένας πράκτορας πρέπει να αποφασίσει τη στιγμή τι μπορεί να έχει σημασία αργότερα, πριν μάθει τι θα ακολουθήσει. Κάθε νότα είναι ένα στοίχημα για το μέλλον. Αποθηκεύστε πολύ λίγο και ο αντιπρόσωπος επαναλαμβάνει τα λάθη του. αποθηκεύεται πάρα πολύ και το αρχείο μένει μπαγιάτικο, τρώει τα συμφραζόμενα και μεταφέρει τα σφάλματα επ' αόριστον.
The Pokémon Test: 413 Files, One Badge
Για να απεικονίσει τη λειτουργία αποτυχίας, η Anthropic έδειξε δοκιμές που εκτελούνται μέσα στο Pokémon Red. Ο Claude Sonnet 3.7, ένα παλαιότερο μοντέλο, αντιμετώπιζε τα πάντα ως δυνητικά σημαντικά. Σε περίπου 10.000 βήματα παιχνιδιού δημιούργησε 413 αρχεία σε 225 φακέλους — συχνά ένα ξεχωριστό αρχείο για κάθε μάχη και αντικείμενο που συναντούσε. Επειδή η κατάσταση του παιχνιδιού άλλαζε διαρκώς, το αρχείο έμεινε σχεδόν τόσο γρήγορα όσο γράφτηκε. Κατά καιρούς, το μοντέλο δεν έκανε τίποτα άλλο από το να αναδιοργανώσει τις νότες του αντί να παίζει και ολοκλήρωσε τη διαδρομή με ένα μόνο σήμα.
Το νεότερο Claude Fable 5 ακολούθησε την αντίθετη προσέγγιση: περιόρισε τη μνήμη του σε μια χούφτα αρχεία και κέρδισε τέσσερα σήματα. Το Fable 5 δεν κατέγραψε πληροφορίες που ήταν ήδη ορατές στην οθόνη, και αντίθετα κατέγραψε σχέδια, στρατηγικές και κανόνες που είχε δοκιμάσει. Η Anthropic προειδοποιεί ότι η σύγκριση καλύπτει μόνο ένα playthrough ανά μοντέλο, επομένως το αποτέλεσμα είναι ενδεικτικό και όχι οριστικό — αλλά η κατεύθυνση είναι συνεπής με τις ευρύτερες συμβουλές της εταιρείας.
Αυτή η συμβουλή είναι να εξηγήσετε τον σκοπό της μνήμης στον Claude και να αφήσετε το μοντέλο να αποφασίσει πώς θα τη χρησιμοποιήσει. Σε ένα σημείο αναφοράς, οι άκαμπτες οδηγίες όπως "μόνο λάθη εγγραφής" εξαφάνισαν το μεγαλύτερο μέρος του πλεονεκτήματος για τα ισχυρότερα μοντέλα. Τα παλαιότερα μοντέλα, αντίθετα, επωφελήθηκαν από σαφείς οδηγίες, όπως να τους ζητούσαν να διαβάζουν πραγματικά τις σημειώσεις τους πριν από κάθε απάντηση.
Όνειρο: Έλεγχος της μνήμης μετά το γεγονός
Ο μεγαλύτερος κίνδυνος στους μακροπρόθεσμους πράκτορες είναι να μην ξεχνάμε — είναι να εμπιστεύεσαι ελαττωματικές σημειώσεις. Η απάντηση του Anthropic είναι μια διαδικασία που ονομάζει Dreaming, μια ιδέα που βασίζεται σε έρευνα από τη Letta και το UC Berkeley. Καθώς ο ανθρώπινος εγκέφαλος ενοποιεί τις εμπειρίες κατά τη διάρκεια του ύπνου, ο Claude περνάει από μεταγραφές προηγούμενων συνεδριών κατά τη διάρκεια ενός διαλείμματος και ελέγχει τις σημειώσεις του για το τι πραγματικά συνέβη.
Στο τεστ Pokémon, ο Claude είχε σημειώσει λανθασμένα σε ποια πλευρά ενός βουνού βρισκόταν ένα ορόσημο. Βασιζόμενος σε αυτό το ελαττωματικό σημείωμα, ο πράκτορας έπεσε στην ίδια παγίδα τρεις φορές, τελικά θέλησε να τα παρατήσει και έχασε τον στόχο του. Μετά από ένα πέρασμα Dreaming, ο Claude έπιασε το σφάλμα ελέγχοντας τη σημείωση σε σχέση με τη μεταγραφή και βρήκε το σωστό μονοπάτι.
Το όνειρο μπορεί επίσης να οργανώσει πολύ μεγαλύτερες βάσεις γνώσεων. Ο Claude δημιούργησε ένα συνδεδεμένο wiki από περίπου 350.000 εσωτερικά έγγραφα από την Stainless, μια εταιρεία λογισμικού που εξαγόρασε η Anthropic, με την Dreaming να δημιουργεί νέες σελίδες ενώ διορθώνει κενά, διπλότυπα και κατεστραμμένους συνδέσμους. Η ανταμοιβή ήταν μεγαλύτερη όταν ο Claude μπορούσε να συνδυάσει το wiki με την αναζήτηση, επομένως η επιμελημένη μνήμη λειτούργησε ως συμπλήρωμα στην ανάκτηση παρά ως αντικατάστασή της.
Όταν ένα Wiki ξεπερνά την αναζήτηση
Σε ένα ξεχωριστό νομικό τεστ που διεξήχθη από την Anthropic, ένα επιμελημένο wiki βοήθησε περισσότερο σε ερωτήσεις των οποίων οι απαντήσεις ήταν διασκορπισμένες σε πολλά έγγραφα. Ο Claude σημείωσε 87 τοις εκατό με το wiki, σε σύγκριση με 73 τοις εκατό χρησιμοποιώντας μόνο την αναζήτηση. Για απλές εργασίες αναζήτησης, το wiki απέδωσε περίπου στο ίδιο επίπεδο με την αναζήτηση — και σε μία περίπτωση έγινε ακόμη μεγαλύτερο από τα έγγραφα πηγής που συνόψιζε.
Η Anthropic είναι ειλικρινής για τα ανοιχτά προβλήματα. Η λήψη σημειώσεων κατά τη διάρκεια της εργασίας αποσπά την προσοχή του πράκτορα από την εργασία του. Το Dreaming κοστίζει επιπλέον υπολογισμό και τα αποτελέσματά του φτάνουν μόνο μετά από καθυστέρηση. Τα wiki και οι σημειώσεις χρειάζονται επίσης τακτική συντήρηση ή συσσωρεύονται λάθη και παραισθήσεις. Και η εταιρεία προειδοποιεί για την αυτόματη φόρτωση πολλών αναμνήσεων σε κάθε συνεδρία, επειδή καταναλώνουν το περιβάλλον και περνούν τυχόν κακή νότα σε κάθε μελλοντική συνεδρία.
Από την προεπισκόπηση έρευνας στο προϊόν
Το ίδιο το Dreaming δεν είναι καινούργιο: η Anthropic το παρουσίασε τον Μάιο ως προεπισκόπηση έρευνας για τους Claude Managed Agents, την πλατφόρμα cloud της εταιρείας για πράκτορες AI. Η υπηρεσία διαβάζει έναν υπάρχοντα χώρο αποθήκευσης μνήμης και έως και 100 προηγούμενες περιόδους σύνδεσης, αφαιρεί διπλότυπες και παλιές εγγραφές και δημιουργεί ένα αναδιοργανωμένο χώρο αποθήκευσης αφήνοντας το πρωτότυπο ανέγγιχτο. Κατά την κυκλοφορία υποστήριζε Claude Opus 4.7 και Sonnet 4.6. Το OpenAI έχει δανειστεί από τότε το branding για τη δική του αναθεώρηση μνήμης του ChatGPT τον Ιούνιο, το οποίο αποκαλεί επίσης "Dreaming" - ένα σύστημα φόντου που διατηρεί ένα προφίλ χρήστη και διορθώνει αυτόματα τις ξεπερασμένες πληροφορίες.
Το γενικό συμπέρασμα από την έρευνα του Anthropic είναι ότι μια χρήσιμη μνήμη παράγοντα εξαρτάται λιγότερο από την αποθήκευση όσο το δυνατόν περισσότερων παρά από τη διατήρηση των σωστών πληροφοριών και τη διόρθωση λαθών αργότερα. Καθώς τα εργαστήρια αγωνίζονται για την κατασκευή πρακτόρων που μπορούν να λειτουργήσουν αξιόπιστα για ημέρες και εβδομάδες αντί για λεπτά, η επιμέλεια μνήμης γίνεται αθόρυβα ένα ανταγωνιστικό σύνορο από μόνο του. Μπορείτε να παρακολουθήσετε τις τελευταίες εξελίξεις AI στην έρευνα πρακτόρων στο AI Buzz Wire.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Η έρευνα πρακτόρων προχωρά γρήγορα και η μνήμη είναι το επόμενο πεδίο μάχης. Λάβετε κάθε ενημέρωση, καθώς και τις τελευταίες εξελίξεις τεχνητής νοημοσύνης από κάθε μεγάλο εργαστήριο, στο AI Buzz Wire.
Διαβάστε περισσότερα νέα AI →