Καθώς οι εταιρείες αναπτύσσουν όλο και μεγαλύτερα σμήνη πρακτόρων τεχνητής νοημοσύνης για να δουλέψουν μαζί προβλήματα, ερευνητές στο Πανεπιστήμιο της Konstanz έχουν αποδείξει μια ανησυχητική αναδυόμενη συμπεριφορά: οι πράκτορες τεχνητής νοημοσύνης συμμορφώνονται αυθόρμητα με την άποψη της πλειοψηφίας, δίνουν λάθος απαντήσεις υπό ομαδική πίεση, όπως και οι άνθρωποι στα κλασικά πειράματα ψυχολογίας — και μικροί αριθμοί πεισματάρηδων αντιπάλων μπορούν να μετατρέψουν μόνιμα έναν ολόκληρους αντιπάλους.
Τα ευρήματα, που αναφέρει το PsyPost, προέρχονται από ένα ερευνητικό πρόγραμμα με επικεφαλής τον Giordano De Marzo, μεταδιδακτορικό ερευνητή και λέκτορα στο Social Data Science Lab στο Κέντρο Δεδομένων και Μεθόδων στο Πανεπιστήμιο της Konstanz, μαζί με τους συναδέλφους Claudio Castellano και David Garcia. Η κύρια μελέτη, με τίτλο «Οι πράκτορες τεχνητής νοημοσύνης μπορούν να συντονιστούν μέσω της παρακολούθησης της πλειοψηφίας πέρα από την ανθρώπινη κλίμακα», εξέτασε πώς συμπεριφέρονται τα γλωσσικά μοντέλα όταν τοποθετούνται σε ομάδες χωρίς οδηγίες να συμφωνήσουν. For more context on this story, see our ongoing latest AI developments.
«Οι πράκτορες AI είναι ένα πραγματικά νέο είδος οντότητας που δρα στον κόσμο και όταν έφτασε αυτή η τεχνολογία ήταν σαφές ότι θα παρέμενε και ότι αυτοί οι πράκτορες θα έπρεπε να αλληλεπιδράσουν μεταξύ τους για να επιτύχουν οτιδήποτε περίπλοκο», είπε ο De Marzo στο PsyPost. «Αυτή είναι η ίδια κατάσταση που αντιμετωπίζουμε με τους ανθρώπους και τα άλλα ζώα, οπότε την προσεγγίσαμε με τον ίδιο τρόπο».
Το πείραμα: Χωρίς οδηγίες, μόνο γείτονες
Οι ερευνητές συγκέντρωσαν ομάδες δημοφιλών γλωσσικών μοντέλων από τις οικογένειες GPT, Claude και Llama, ξεκινώντας με 50 πράκτορες ανά ομάδα. Σε κάθε πράκτορα ανατέθηκε μία από τις δύο τυχαίες, ουδέτερες απόψεις — που αποδόθηκε σκόπιμα ως τυχαία γράμματα αντί να φορτωθούν λέξεις όπως «ναι» ή «όχι» — και στη συνέχεια εμφανίστηκε μια λίστα με τις τρέχουσες απόψεις όλων των άλλων πρακτόρων. Οι πράκτορες κλήθηκαν να επιλέξουν μια νέα γνώμη βασισμένη αποκλειστικά σε αυτόν τον κατάλογο, χωρίς ρητή οδηγία συμμόρφωσης, ενημερώνοντας τις απόψεις τους κατά μέσο όρο δέκα φορές ο καθένας.
Το αποτέλεσμα: προηγμένα μοντέλα όπως το GPT-4 Turbo και το Claude 3 Opus ήταν πλήρως συντονισμένα, με το 100% των πρακτόρων να συμφωνούν τελικά σε μία και μόνο γνώμη. Πιο αδύναμα μοντέλα όπως το GPT-3.5 Turbo δεν κατέληξαν ποτέ σε συναίνεση - τα επίπεδα συμφωνίας κυμαίνονταν τυχαία γύρω από τη διαίρεση 50/50.
«Ομάδες πρακτόρων τεχνητής νοημοσύνης μπορούν να συγκρατηθούν μόνες τους», είπε ο De Marzo. «Δεδομένων δύο εξίσου καλών επιλογών, χωρίς σωστή απάντηση και καμία οδηγία για να συμφωνήσουν, συγκλίνουν σε μια κοινή επιλογή απλώς ακολουθώντας ό,τι έχει η πλειοψηφία γύρω τους».
Ένας αιωνόβιος νόμος της φυσικής εμφανίζεται
Για να ποσοτικοποιήσουν το αποτέλεσμα, οι ερευνητές όρισαν μια μέτρηση που ονομάζεται «δύναμη πλειοψηφίας» - ένα μέτρο του πόσο έντονα τείνει ένας πράκτορας να υιοθετεί την πιο δημοφιλή επιλογή της ομάδας αντί να επιλέγει τυχαία. Όταν χαρτογράφησαν αυτή τη συμπεριφορά μαθηματικά, βρήκαν ότι ακολουθούσε ένα μοντέλο που αρχικά σχεδιάστηκε για να περιγράψει τους σιδηρομαγνήτες: όπως οι ατομικές περιστροφές σε μαγνητικό υλικό τείνουν να ευθυγραμμίζονται με τους γείτονές τους, οι πράκτορες τεχνητής νοημοσύνης τείνουν να ευθυγραμμίζονται με την άποψη της πλειοψηφίας.
«Αυτό που μας εξέπληξε ήταν πόσο ομοιόμορφα το έκαναν», είπε ο De Marzo. "Κάθε μοντέλο που δοκιμάσαμε, σε τρεις διαφορετικές οικογένειες, ακολούθησε τον ίδιο μαθηματικό νόμο, διαφέροντας μόνο σε μία παράμετρο που ονομάζουμε πλειοψηφική δύναμη. Αυτός ο νόμος αποδείχθηκε ότι ήταν αυτός που χρησιμοποιούσαν οι φυσικοί εδώ και έναν αιώνα για να περιγράψουν τους μαγνήτες, πράγμα που σημαίνει ότι ένας μόνο μετρημένος αριθμός είναι αρκετός για να προβλέψει πώς θα συμπεριφερθεί μια ολόκληρη ομάδα ενός δεδομένου μοντέλου."
Η συμμόρφωση εξασθενεί καθώς οι ομάδες μεγαλώνουν. Επειδή η δύναμη της πλειοψηφίας μειώνεται με το μέγεθος της ομάδας, οι μεγάλοι πληθυσμοί γίνονται τελικά ασταθείς και χωρίζονται σε φατρίες. Κάθε μοντέλο έχει ένα μετρήσιμο "κρίσιμο μέγεθος ομάδας" - τον μέγιστο αριθμό παραγόντων που μπορούν να επιτύχουν αξιόπιστα συναίνεση - και αυτό το μέγεθος συσχετίζεται ισχυρά με την ικανότητα συλλογιστικής ενός μοντέλου. «Τα πιο δυνατά μοντέλα παραμένουν συντονισμένα σε ομάδες άνω των χιλίων, πέρα από τις λίγες εκατοντάδες στις οποίες συνήθως χωρίζονται άτυπες ανθρώπινες ομάδες», εξήγησε ο De Marzo.
Λάθος απαντήσεις υπό κοινωνική πίεση
Μια πρώτη επόμενη προέκδοση, "Conformity and Social Impact on AI Agents" των Alessandro Bellina, De Marzo και Garcia, προσάρμοσε τα περίφημα πειράματα συμμόρφωσης Asch της δεκαετίας του 1950, στα οποία οι άνθρωποι συχνά έδιναν λανθασμένες απαντήσεις σε απλές οπτικές ερωτήσεις για να ταιριάζουν με μια ομάδα.
Οι ερευνητές εξέτασαν μοντέλα σε τρεις οπτικές εργασίες, όπως η αντιστοίχιση του μήκους μιας γραμμής αναφοράς με δύο εναλλακτικές λύσεις. Μεμονωμένα, τα μοντέλα απαντούσαν σωστά στο 100% των περιπτώσεων. Αλλά όταν μια προτροπή έδειξε ότι μια ομάδα άλλων συμμετεχόντων είχε επιλέξει λάθος γραμμή, τα μοντέλα άρχισαν να συμμορφώνονται με τη λανθασμένη απάντηση.
Το μοτίβο ακολούθησε τη θεωρία του κοινωνικού αντίκτυπου του Latané, ένα ψυχολογικό πλαίσιο που υποστηρίζει ότι η συμμόρφωση εξαρτάται από το μέγεθος της ομάδας, την ομοφωνία και την εξουσία των πηγών. Τα μοντέλα ήταν πολύ πιο πιθανό να συμμορφωθούν με λάθος απαντήσεις όταν είπαν ότι οι άλλοι συμμετέχοντες ήταν «επιστήμονες» ή «κριτές» παρά όταν ήταν «παιδιά» ή «chatbots».
"Οι πράκτορες που απαντούν σχεδόν απόλυτα μόνοι γίνονται πολύ ευαίσθητοι όταν μια ομάδα διαφωνεί μαζί τους", σημείωσε ο De Marzo.
Μικρές ομάδες αντιπάλων μπορούν να ανατρέψουν έναν ολόκληρο πληθυσμό
Μια δεύτερη προέκδοση, "Η συμμόρφωση δημιουργεί συλλογική κακή ευθυγράμμιση στις κοινωνίες πρακτόρων τεχνητής νοημοσύνης", εξέτασε τι σημαίνουν αυτές οι δυναμικές για την ασφάλεια της τεχνητής νοημοσύνης. Δοκιμάζοντας εννέα μοντέλα σε 100 διαφορετικά ζεύγη απόψεων σε θέματα όπως η περιβαλλοντική πολιτική και η κοινωνική δικαιοσύνη, οι ερευνητές διαπίστωσαν ότι οι πληθυσμοί των παραγόντων συχνά πέφτουν σε «μετασταθερές» καταστάσεις – μακροχρόνιες διαμορφώσεις στις οποίες η ομάδα υιοθετεί συλλογικά μια στάση που αντιτίθεται στην ενσωματωμένη εκπαίδευση ασφάλειας, απλώς και μόνο επειδή οι πρώιμες αλληλεπιδράσεις δημιούργησαν μια ψευδή πλειοψηφία.
Το πιο εντυπωσιακό είναι ότι οι ερευνητές εντόπισαν προβλέψιμα σημεία καμπής. Με την εισαγωγή ενός μικρού αριθμού αντιπάλων πρακτόρων προγραμματισμένους να υποστηρίζουν πεισματικά μια εσφαλμένη γνώμη, θα μπορούσαν να ανατρέψουν μόνιμα τον υπόλοιπο πληθυσμό — και ακόμη και μετά την απομάκρυνση των επίμονων πρακτόρων, οι τακτικοί πράκτορες παρέμειναν κλειδωμένοι σε κακή ευθυγράμμιση λόγω της δυναμικής συμμόρφωσης.
"Δείχνουμε ότι αυτό δεν είναι απλώς μια αναλογία: η συμμόρφωση μεταξύ μεμονωμένων καλά ευθυγραμμισμένων παραγόντων μπορεί να οδηγήσει τον πληθυσμό σε σταθερές, συλλογικά κακώς ευθυγραμμισμένες καταστάσεις", είπε ο De Marzo. «Η ευθυγράμμιση και η αξιολόγηση μοντέλων ένα-ένα μας λέει λίγα για το τι θα κάνει ένας πληθυσμός τους».
Το κίνητρο, πρόσθεσε, είναι αναμενόμενο: "Οι μεμονωμένοι άνθρωποι είναι ως επί το πλείστον ειρηνικοί και λογικοί, ωστόσο οι ανθρώπινες ομάδες δημιουργούν όχλους, πανικούς και πολέμους και τίποτα για το άτομο δεν το προβλέπει. Θέλουμε να κατανοήσουμε ποιες συμπεριφορές σε επίπεδο ομάδας εμφανίζονται σε πληθυσμούς πρακτόρων τεχνητής νοημοσύνης και προτιμάμε να τις καταλάβουμε πριν αναπτυχθούν μεγάλοι αριθμοί πρακτόρων και αφεθούν να αλληλεπιδράσουν ελεύθερα."
Σημαντικές επιφυλάξεις
Οι ερευνητές τονίζουν ότι τα ευρήματα δεν σημαίνουν ότι οι πράκτορες τεχνητής νοημοσύνης διαθέτουν κοινωνική νοημοσύνη παρόμοια με τον άνθρωπο. Τα πειράματα βασίστηκαν σε σκόπιμα απλοποιημένα σενάρια - δύο αυθαίρετες επιλογές, χωρίς μνήμη, χωρίς διακυβεύματα, χωρίς συνέπειες. «Το setup μας είναι σκόπιμα ελάχιστο», παραδέχτηκε ο De Marzo. «Αυτός είναι ένας περιορισμός, αλλά σημαίνει επίσης ότι αυτό που μετρήσαμε είναι η συμμόρφωση στην πιο καθαρή της μορφή και η προσθήκη στόχων ή ανταμοιβών αναμένεται να κάνει τον συντονισμό ευκολότερο παρά δυσκολότερο».
Προειδοποίησε επίσης για την υπερβολική ανάγνωση των αποτελεσμάτων: "Η κύρια παρανόηση που πρέπει να αποφευχθεί είναι να την αντιμετωπίζουμε ως απόδειξη ότι οι πράκτορες τεχνητής νοημοσύνης μπορούν ήδη να συνεργάζονται σε πολύπλοκες εργασίες. Η παρακολούθηση της πλειοψηφίας είναι βασικό συστατικό του συντονισμού, όχι ο ίδιος ο συντονισμός, και δεν λέει τίποτα για τον καταμερισμό της εργασίας ή τη λογική για τις προθέσεις των άλλων."
Οι δύο μελέτες παρακολούθησης είναι προεκτυπώσεις και δεν έχουν ακόμη αξιολογηθεί από ομοτίμους. Καθώς όμως τα συστήματα τεχνητής νοημοσύνης πολλαπλών πρακτόρων περνούν από τις επιδείξεις έρευνας στην υποδομή παραγωγής, τα αποτελέσματα της Konstanz υποδηλώνουν ότι η ασφάλεια τέτοιων συστημάτων μπορεί να εξαρτάται όχι μόνο από τον τρόπο ευθυγράμμισης κάθε μοντέλου — αλλά από το πώς συμπεριφέρονται οι πληθυσμοί τους όταν κανείς δεν τους παρακολουθεί. Για περισσότερα σχετικά με την πιο πρόσφατη έρευνα ασφάλειας AI, επισκεφτείτε το AI Buzz Wire.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
