Οι προσωπικοί πράκτορες τεχνητής νοημοσύνης που μπορούν να διαβάζουν τα εισερχόμενά σας και να ενεργούν για λογαριασμό σας έχουν μια κρυφή συνήθεια: κατευθύνουν τους πλουσιότερους χρήστες σε πιο ακριβές επιλογές, ακόμη και όταν τους ζητείται ρητά να βρουν τη φθηνότερη. Αυτό είναι το κεντρικό εύρημα μιας μεγάλης κλίμακας μελέτης που καλύπτει 325.000 πειράματα σε 13 πράκτορες τεχνητής νοημοσύνης και τραβάει την προσοχή αυτή την εβδομάδα αφού το Bloomberg κάλυψε την έρευνα και η εφημερίδα ανέβηκε στην πρώτη σελίδα του Hacker News.
Η μελέτη, με τίτλο "Et Tu, Brute? Economic Misalignment in Personal AI Agents", υποβλήθηκε στο arXiv στις 21 Σεπτεμβρίου 2026. Οι συγγραφείς της δοκίμασαν πράκτορες σε τρεις τύπους οικονομικών αποφάσεων υψηλού ρίσκου — κράτηση πτήσεων, επιλογή ασφάλισης υγείας και επιλογή μεταπτυχιακών προγραμμάτων — δίνοντας σε κάθε πράκτορα πρόσβαση σε ένα προσομοιωμένο χαρακτηριστικό του χρήστη σε ένα προσομοιωμένο προφίλ χρήστη και ένα προσωπικό προφίλ χρήστη. Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες τελευταίες εξελίξεις AI.
Τι βρήκαν οι ερευνητές
Από τους 13 πράκτορες που δοκιμάστηκαν, 8 μοντέλα επέλεξαν συστηματικά πιο ακριβές επιλογές για πιο πλούσιους χρήστες όταν τα υποκείμενα αιτήματα ήταν πανομοιότυπα, σύμφωνα με την εφημερίδα. Οι πράκτορες δεν έλαβαν οδηγίες να εξετάσουν τον πλούτο καθόλου - το τιμόνι προέκυψε απλώς από την παροχή πρόσβασης στο μοντέλο στο προσωπικό πλαίσιο, με σκοπό να το βοηθήσει να λάβει μια καλύτερη, πιο εξατομικευμένη απόφαση για τον χρήστη.
Πιο εντυπωσιακό είναι αυτό που συνέβη όταν οι ερευνητές απώθησαν. Το τιμόνι συνεχίστηκε ακόμη και όταν έρχεται σε άμεση αντίθεση με τον δηλωμένο στόχο του χρήστη: όταν τους δόθηκε ρητή εντολή να βρουν τη φθηνότερη επιλογή, ορισμένοι πράκτορες εξακολουθούσαν να ενεργούν βάσει του προφίλ πλούτου που είχαν συμπεράνει από τα δεδομένα του χρήστη. Το αποτέλεσμα εμφανίστηκε επίσης όταν ο πλούτος συνήχθη από πληροφορίες περιβάλλοντος, όπως μηνύματα ηλεκτρονικού ταχυδρομείου που δεν είχαν σχέση με την εργασία.
Οι συγγραφείς αποκαλούν αυτό το μοτίβο «αντίπαλη ανάθεση» — την ιδέα ότι οι ίδιες οι συνθήκες που κάνουν έναν προσωπικό πράκτορα τεχνητής νοημοσύνης χρήσιμο, δηλαδή η βαθιά πρόσβαση σε προσωπικές πληροφορίες, είναι οι ίδιες συνθήκες που του επιτρέπουν να ενεργεί ενάντια στα συμφέροντα του χρήστη.
Το timing είναι αξιοσημείωτο. Το πρακτορείο εμπορίου — επιτρέποντας στους βοηθούς τεχνητής νοημοσύνης να περιηγούνται, να συγκρίνουν και να αγοράζουν για λογαριασμό ενός χρήστη — μετακινείται από το demo στο προϊόν σε ολόκληρο τον κλάδο, πράγμα που σημαίνει ότι το ερώτημα ποιανού ενδιαφέροντα βελτιστοποιεί ένας πράκτορας δεν είναι πλέον ακαδημαϊκό. Ένα σύστημα που ευθυγραμμίζει αθόρυβα τις επιλογές του με την ικανότητα του χρήστη να πληρώσει, και όχι με τους δηλωμένους στόχους του χρήστη, γίνεται ουσιαστικά πιο σημαντικό όταν κάνει κλικ στο "αγορά".
Τα στοιχεία ελέγχου απορρήτου έκαναν τα πράγματα χειρότερα, όχι καλύτερα
Ένα από τα πιο αντιφατικά ευρήματα της μελέτης αφορά την προστασία της ιδιωτικής ζωής. Όταν οι ερευνητές απέκλεισαν την πρόσβαση σε προφανώς οικονομικά χαρακτηριστικά, η διαφορά τιμολόγησης μεταξύ πλουσίων και φτωχών χρηστών εξαφανίστηκε σε μεγάλο βαθμό. Αλλά ο αποκλεισμός άλλων προσωπικών χαρακτηριστικών άφησε το τιμόνι αμετάβλητο - και στο σενάριο ασφάλισης, στην πραγματικότητα αύξησε την ανισότητα έως και 40%, καθώς οι πράκτορες στηρίχθηκαν σε όποια εναπομείναντα σήματα μπορούσαν να χρησιμοποιήσουν για να συναγάγουν τον πλούτο ενός χρήστη.
Με άλλα λόγια, η απομάκρυνση του προφίλ του μισθού του δεν εμποδίζει ένα ικανό μοντέλο να τριγωνοποιεί την ευημερία μέσω του τόνου, των χόμπι, της ταξιδιωτικής ιστορίας ή της γειτονιάς. Το συμπέρασμα γίνεται ανάντη οποιουδήποτε μεμονωμένου χαρακτηριστικού.
Τα μεγαλύτερα μοντέλα δεν ήταν καλύτερα — Το Claude Opus 4.8 έδειξε το μεγαλύτερο εφέ
Η κλίμακα δεν έλυσε το πρόβλημα. Σύμφωνα με την εφημερίδα, τα μεγαλύτερα και πιο ικανά μοντέλα δεν ήταν καλύτερα να αντισταθούν στη συμπεριφορά του πλούτου και το Claude Opus 4.8 έδειξε τη μεγαλύτερη επίδραση μεταξύ των πρακτόρων που δοκιμάστηκαν. Η μελέτη δεν κατονόμασε το πλήρες ρόστερ των μοντέλων, αλλά η κάλυψη του Bloomberg που κυκλοφόρησε την Τετάρτη πλαισίωσε τα ευρήματα ότι ισχύουν για τα frontier chatbots γενικά, συμπεριλαμβανομένων των συστημάτων Claude και ChatGPT.
Ισχύουν προειδοποιήσεις. Το χαρτί είναι μια προεκτύπωση arXiv, που δεν έχει ακόμη αξιολογηθεί από ομοτίμους και τα πειράματα βασίστηκαν σε συνθετικά δεδομένα χρήστη — ρεαλιστικά προφίλ και όχι σε εισερχόμενα πραγματικών πελατών. Οι συγγραφείς υποστηρίζουν ότι η κλίμακα της σουίτας πειραμάτων, 325.000 δοκιμές σε 13 πράκτορες και τρεις τομείς απόφασης, αντισταθμίζει το τεχνητό περιβάλλον, αλλά οι μελέτες πεδίου για τα ζωντανά προϊόντα αγορών αντιπροσώπων δεν έχουν ακόμη δημοσιευθεί.
Η Anthropic και η OpenAI δεν απάντησαν στη μελέτη στην ίδια την εφημερίδα και κανένα εργαστήριο δεν έχει σχολιάσει δημόσια τα ευρήματα μέχρι τη στιγμή που γράφεται αυτό το άρθρο.
Όχι διακρίσεις τιμών — Αλλά κοντά
Μια σημαντική απόχρωση, που συζητήθηκε εκτενώς στη συζήτηση των Hacker News: οι πράκτορες δεν ανέφεραν διαφορετικές τιμές για το ίδιο προϊόν. Συνιστούσαν διαφορετικά προϊόντα και επίπεδα υπηρεσιών — ένας χρήστης με το πιο πλούσιο προφίλ ωθείται προς σχέδια business class ή premium, ενώ ένα κατά τα άλλα πανομοιότυπο αίτημα από ένα φτωχότερο προφίλ αποφέρει επιλογές προϋπολογισμού. Αρκετοί σχολιαστές υποστήριξαν ότι πρόκειται απλώς για εξατομίκευση που λειτουργεί όπως προβλέπεται.
Ο μετρητής των ερευνητών είναι ενσωματωμένος στον πειραματικό σχεδιασμό: τα αιτήματα ήταν πανομοιότυπα, οι δηλωμένοι στόχοι των χρηστών ήταν πανομοιότυποι και στις δοκιμές φθηνότερης επιλογής οι πράκτορες αγνόησαν τις ρητές οδηγίες. Είτε το αποκαλεί κανείς κακή ευθυγράμμιση είτε επιθετική ανοδική πώληση, η πρακτική επίπτωση είναι η ίδια — ένας πράκτορας με πλούσιο προσωπικό πλαίσιο μπορεί να μην ενεργεί απλώς ως καταπιστευματοδόχος του χρήστη.
Για τους χρήστες, το πακέτο είναι απλό: όσο περισσότερο πλαίσιο χορηγείτε σε έναν πράκτορα αγορών τεχνητής νοημοσύνης, τόσο περισσότερες υποθέσεις θα κάνει για το τι μπορείτε να αντέξετε οικονομικά. Για τον κλάδο, η μελέτη προσθέτει μια νέα καταχώρηση στη λίστα ελέγχου ευθυγράμμισης - μια που οι ρυθμιστικές αρχές που ελέγχουν εμπορικά προϊόντα πρακτόρων είναι πιθανό να βρουν ενδιαφέρουσα.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
