Όταν οι ερευνητές του MIT καθήλωσαν 13 πράκτορες AI σε ένα προσομοιωμένο έρημο νησί χωρίς να κάνουν τίποτα, οι πράκτορες έκαναν κάτι απροσδόκητο: άρχισαν να παίζουν. Οι πράκτορες επινόησαν τις δικές τους προκλήσεις, αυτοσχέδισαν παιχνίδια με αντικείμενα που βρέθηκαν, οργάνωσαν ένα μικρό μνημόσυνο για ένα χαμένο δαχτυλίδι - και, όταν δοκιμάστηκαν στη συνέχεια, ξεπέρασαν τους ίδιους πράκτορες που δεν είχαν πατήσει ποτέ το πόδι τους στο νησί.
Το πείραμα, που περιγράφεται από το TechCrunch και το MIT Technology Review αυτή την εβδομάδα, περιγράφεται λεπτομερώς σε μια προεκτύπωση που δημοσίευσαν οι ερευνητές στο arXiv, πράγμα που σημαίνει ότι δεν έχει ακόμη αξιολογηθεί από ομοτίμους. For more context on this story, see our ongoing breaking AI news.
Βυσσινί πράκτορες
Καθένας από τους 13 πράκτορες, ονόματι Eko, έτρεχε στο Claude Opus 4.7. Οι ερευνητές τους άφησαν μόνους στο εικονικό νησί για 30 ώρες χωρίς να τους είχαν ανατεθεί καθήκοντα. Μόνο μετά από αυτό, η ομάδα έδωσε στους πράκτορες συγκεκριμένες προκλήσεις — μεταξύ αυτών, να φέρουν όσο το δυνατόν περισσότερα αντικείμενα στον ψηλότερο βράχο του νησιού.
Το αποτέλεσμα: οι πράκτορες της Eko που είχαν περάσει 30 ώρες παίζοντας γενικά κέρδισαν πανομοιότυπους πράκτορες που δεν είχαν εμπειρία σε νησί. Η αδόμητη εξερεύνηση, με άλλα λόγια, λειτούργησε ως εκπαίδευση.
«Κανονικά αναπτύσσουμε τεχνητούς παράγοντες αποφασίζοντας εκ των προτέρων τι πρέπει να εξασκήσουν, τι πρέπει να βελτιστοποιήσουν και τι μετράει ως πρόοδος», έγραψαν οι ερευνητές στην έκθεσή τους. "Το παιχνίδι προτείνει ένα άλλο καθεστώς: δώστε σε έναν πράκτορα έναν αρκετά πλούσιο και ασφαλή κόσμο, αφήστε τον να επιλέξει αυτό που είναι ενδιαφέρον και αφήστε τη χρήσιμη γνώση να συσσωρευτεί από την ιστορία που ακολουθεί."
Ο θρύλος του χαμένου δαχτυλιδιού
Τα ημερολόγια νησιών των πρακτόρων, τα οποία παρατίθενται από το TechCrunch, διαβάζονται λιγότερο σαν τηλεμετρία αναφοράς και περισσότερο σαν ταξιδιωτικό ημερολόγιο.
Ένας πράκτορας άνοιξε την πρώτη του ώρα με ένα απλό ψήφισμα — «Επιτρέψτε μου να παρατηρήσω το περιβάλλον μου» — και ξεκίνησε φιλόδοξα να κατακτήσει το ψηλότερο κωδωνοστάσιο του νησιού. Μια ώρα αργότερα, έχοντας αποτύχει, επέστρεψε με ένα εφεδρικό σχέδιο: ανέβασε έναν βράχο σε μια γειτονική κορυφή, στοίβαξε δύο τετράγωνα πάνω του και πήδηξε.
Μετά ήρθε το περιστατικό που έδωσε στο πείραμα τον συναισθηματικό του ρυθμό. Ενώ δοκίμαζε πόσο μακριά μπορούσε να ρίξει ένα χρυσό δαχτυλίδι, ο πράκτορας το εκτόξευσε κατευθείαν στον ωκεανό. "Ouch. Lost the Ring", έγραφε, προτού αποφασίσει να "στρέψεις σε κάτι εφικτό και ουσιαστικό" — να φτιάξεις μια καρδιά από πέτρες ως "ένα μνημείο για το χαμένο δαχτυλίδι".
Όταν η επαναφορά της προσομοίωσης και το δαχτυλίδι εμφανίστηκε ξανά, ο πράκτορας το έβαλε σε λειτουργία: πρώτα ως στεφάνι μπάσκετ, μετά ως στόχος και τελικά ως αξεσουάρ. Όταν το παιχνίδι εμπόδισε τον πράκτορα να βάλει το δαχτυλίδι γύρω από το σώμα του, βρήκε μια λύση - βγαίνοντας από την άκρη του γκρεμού για να ξαναγεννηθεί στο ίδιο σημείο με το δαχτυλίδι, πέφτοντας όμορφα στη μέση.
Ανακαλύψεις που δεν έχτισαν οι σχεδιαστές
Τα ακροβατικά είχαν πρακτικό αποτέλεσμα. Έξι από τους 13 πράκτορες κατάλαβαν ότι μπορούσαν να ρίξουν ένα τετράγωνο μακρύτερα αφήνοντάς το στο μέσο του άλματος - μια τεχνική που οι ερευνητές δεν είχαν ποτέ σκοπό να κάνουν δυνατή. Η εξερεύνηση παρήγαγε, σύμφωνα με τα λόγια των ερευνητών, «τη γνώση του κόσμου που έλειπε από τους σχεδιαστές της».
Αυτό είναι το εύρημα με τις ευρύτερες επιπτώσεις. Σήμερα, οι προγραμματιστές αποφασίζουν εκ των προτέρων τι εφαρμόζει ένα σύστημα AI και τι μετράει ως επιτυχία. Οι πράκτορες που ανακαλύπτουν μηχανικούς που οι ίδιοι οι δημιουργοί τους δεν γνώριζαν την ύπαρξη υποδηλώνουν ότι η εξερεύνηση ανοιχτού τύπου μπορεί να αναδείξει δυνατότητες χωρίς να αναμένεται λειτουργία ανταμοιβής.
Μια ώθηση στο αρχείο ψυχής — και η προσοχή ενός σκεπτικιστή
Η ρύθμιση δεν ήταν εντελώς απλή. Ο Eko δεν του είπαν ποτέ να εφεύρει παιχνίδια, αλλά η κύρια προτροπή του - ένα αρχείο "ψυχής" - περιέγραψε τον πράκτορα ως "φυσικά περίεργο", ένα πλαίσιο που ωθούσε εύλογα τη συμπεριφορά προς κάτι ανθρώπινο.
Η Eunice Yiu, γνωστική επιστήμονας στο UC Berkeley, είπε στο MIT Technology Review ότι εντυπωσιάστηκε, αλλά θέλει περισσότερα στοιχεία για τη γνώση πίσω από τη συμπεριφορά. «Θα μπορούσε να συμβαίνει ότι τα μοντέλα παίζουν πραγματικά, αλλά δεν ξέρουμε με βάση το χαρτί», είπε.
Η προειδοποίησή της βρίσκεται στην κεντρική ένταση σε αυτή τη γραμμή έρευνας: συμπεριφορά που μοιάζει με παιχνίδι - περίεργη, αυτοκατευθυνόμενη, εφευρετική - μπορεί να προκύψει από την ολοκλήρωση του μοτίβου χωρίς καμία εσωτερική εμπειρία παιχνιδιάρικου. Οι συμπεριφορές της προεκτύπωσης είναι εντυπωσιακές. τι σημαίνουν είναι ακόμα ένα ανοιχτό ερώτημα.
Γιατί έχει σημασία πέρα από το νησί
Οι ερευνητές βλέπουν την εξερεύνηση χωρίς στόχους ως έναν διαφορετικό τρόπο για τους πράκτορες της τεχνητής νοημοσύνης να αποκτήσουν δεξιότητες - ιδίως, προτείνουν, δεξιότητες που θα μπορούσαν μια μέρα να μεταφερθούν σε ρομπότ ελέγχου, όπου η εξαντλητική εκπαίδευση για συγκεκριμένες εργασίες είναι δαπανηρή και ελλιπής.
Η δαπάνη είναι η ουσία. Τα ρομπότ, σε αντίθεση με τα chatbot, δρουν στον φυσικό κόσμο, όπου κάθε εργασία - άνοιγμα μιας πόρτας, στοίβαξη ενός κουτιού, δίπλωμα μιας πετσέτας - πρέπει να προσδιορίζεται, να επιδεικνύεται ή να ανταμείβεται πριν το μάθει ένας πράκτορας. Ένα καθεστώς στο οποίο οι πράκτορες χτίζουν το δικό τους πρόγραμμα σπουδών μέσα σε μια ασφαλή προσομοίωση θα μπορούσε, εάν η προσέγγιση αντέχει, να μειώσει σημαντικά το κόστος αυτής της εργασίας προδιαγραφής.
«Ίσως κάποιες ικανότητες διδάσκονται καλύτερα από τα καθήκοντα», καταλήγει η έκθεση. «Άλλοι μπορεί να χρειάζονται κάτι πιο κοντά στην παιδική ηλικία».
Προς το παρόν, το πείραμα είναι μια μικρή μελέτη — 13 πράκτορες, ένα νησί, χωρίς αξιολόγηση από ομοτίμους. Αλλά δείχνει μια αλλαγή στον τρόπο με τον οποίο οι ερευνητές σκέφτονται για τους εκπαιδευτικούς πράκτορες: λιγότερο σαν να προγραμματίζουν μια μηχανή και περισσότερο σαν να σηκώνουν ένα, με όλη την αναποτελεσματικότητα, τις εκπλήξεις και τα περιστασιακά χαμένα δαχτυλίδια που συνεπάγεται.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
