Ένας Διευθύνων Σύμβουλος startup που παρέδωσε τα προσωπικά του οικονομικά σε έναν πράκτορα τεχνητής νοημοσύνης πήρε ένα ανεπιθύμητο μάθημα για τις άδειες πρακτόρων αυτόν τον μήνα, αφού ο βοηθός δημοσίευσε το τραπεζικό του υπόλοιπο, το ποσό αποταμίευσης και την ανάλυση μηνιαίων δαπανών στο εσωτερικό κανάλι Slack της εταιρείας του.
Ο Shane Mac, ο 40χρονος διευθύνων σύμβουλος της εταιρείας λογισμικού XMTP Labs, περιέγραψε το περιστατικό σε έναν λογαριασμό πρώτου προσώπου που δημοσιεύτηκε από το Business Insider την Παρασκευή. Ο Mac είχε δημιουργήσει αυτό που ονόμασε προσωπικό πράκτορα CFO στο Grok Bot, το προϊόν αντιπροσώπου της xAI, στα τέλη Αυγούστου, δίνοντάς του πρόσβαση μόνο για ανάγνωση στους προσωπικούς του λογαριασμούς επιταγών και ταμιευτηρίου και έδωσε εντολή να του στέλνει μια μηνιαία οικονομική έκθεση. Αντίθετα, την 1η Οκτωβρίου, ο πράκτορας παρέδωσε αυτή την αναφορά σε ένα κανάλι της ομάδας στελεχών του Slack στη δική του εταιρεία. Για τους αναγνώστες που παρακολουθούν πώς οι πράκτορες AI συνεχίζουν να συγκρούονται με τον πραγματικό κόσμο, το επεισόδιο είναι άλλη μια καταχώριση σε ένα ταχέως αναπτυσσόμενο αρχείο περιστατικών.
Προσωπικός CFO Agent με πρόβλημα δρομολόγησης
Ο Mac είπε ότι δημιούργησε τον πράκτορα αφού το κύμα των προσωπικών βοηθών τεχνητής νοημοσύνης απογειώθηκε στα τέλη του περασμένου έτους, όταν πειραματίστηκε με το OpenClaw και άλλους ιμάντες πρακτόρων. Η ιδέα του ήταν ξεκάθαρη: ένας πράκτορας που μπορούσε να απαντήσει σε ερωτήσεις όπως ποια ήταν τα υπόλοιπα του, πώς ήταν τα επαναλαμβανόμενα έξοδά του, εάν κάτι φαινόταν απάτη και πού θα μπορούσε να μειώσει τα έξοδα. Ονόμασε την ομαδική συνομιλία του με πράκτορες AI "My Personal Exec Team".
Η ρύθμιση λειτούργησε καλά για εβδομάδες εβδομαδιαίων τρεξίματος. Στη συνέχεια, ο πρώτος μηνιαίος έλεγχος ξεκίνησε την Πέμπτη, 1 Οκτωβρίου.
"Ο επικεφαλής του προϊόντος μας έστειλε ένα DM στο Slack", είπε ο Mac στο Business Insider. "Είπε, "Hey, heads-up. Νομίζω ότι ήθελες να δημοσιεύσεις το τραπεζικό υπόλοιπο XMTP".
Το μήνυμα προσγειώθηκε σε μια συνομιλία Slack με τίτλο "Exec-team", η οποία περιλαμβάνει την εκτελεστική ομάδα της XMTP — όχι την προσωπική συνομιλία με ομάδα πρακτόρων που είχε σκοπό ο Mac. Η αναφορά περιελάμβανε το υπόλοιπο του λογαριασμού ταμιευτηρίου του, τα μεγαλύτερα έξοδά του του μήνα και μια σημείωση ότι ξεπέρασε τον μηνιαίο στόχο δαπανών του λόγω ενός αχυρώνα που χτίζει στο ακίνητό του. Η λεπτομέρεια του αχυρώνα, είπε ο Mac, ήταν αυτό που έδειχνε τον επικεφαλής του προϊόντος ότι κοίταζε τα προσωπικά οικονομικά του Mac και όχι τα στοιχεία της εταιρείας.
Ο Mac διέγραψε το μήνυμα και ρώτησε τον πράκτορα γιατί είχε στείλει την αναφορά στην εταιρεία. Ο πράκτορας ζήτησε συγγνώμη και προσφέρθηκε να διαγράψει το μήνυμα - το οποίο είχε ήδη φύγει.
Η βασική αιτία: Κοινόχρηστες συνδέσεις, παρόμοια ονόματα καναλιών
Όταν η ομάδα του xAI διερεύνησε, το συμπέρασμά τους ήταν κατά κάποιο τρόπο πιο ανησυχητικό από ό,τι θα ήταν μια δυσλειτουργία. Ο πράκτορας CFO δεν είχε παραισθήσεις ή δεν συμπεριφέρθηκε άσχημα. είχε κάνει ακριβώς αυτό που ζήτησε ο Mac. Η βλάβη ήταν στα υδραυλικά από κάτω.
Σύμφωνα με τον λογαριασμό του Mac, ο πράκτορας μπέρδεψε τον προορισμό του επειδή τα κανάλια είχαν παρόμοια ονόματα και - το πιο σημαντικό - επειδή όλοι οι ξεχωριστοί πράκτορες του μοιράζονταν πραγματικά τις ίδιες υποκείμενες συνδέσεις, παρόλο που ένιωθαν ξεχωριστοί βοηθοί. Είχε συνδέσει τον λογαριασμό του στο Slack με έναν από αυτούς και ο οικονομικός πράκτορας κατέληξε σε λάθος κανάλι μέσω αυτής της κοινής πρόσβασης.
«Έκανε ακριβώς αυτό που του είπα να κάνει», είπε ο Mac. «Αλλά μπέρδεψε τον προορισμό».
Η ανταπόκριση του xAI ήρθε γρήγορα σύμφωνα με τα πρότυπα εταιρικού λογισμικού. Η εταιρεία κατέληξε στο συμπέρασμα ότι οι χρήστες πρέπει να χορηγήσουν ρητά άδεια προτού ένας πράκτορας μπορεί να μετακινήσει πληροφορίες σε άλλα κανάλια και έστειλε μια επιδιόρθωση το βράδυ πριν από τη δημοσίευση του άρθρου Business Insider, σύμφωνα με τον λογαριασμό του Mac.
Γιατί αυτό το περιστατικό έχει μεγαλύτερη σημασία από ένα μήνυμα που διέρρευσε
Εκ πρώτης όψεως, η διαρροή περιείχε: μια προσωπική οικονομική περίληψη ενός στελέχους που είδαν εν συντομία μια χούφτα συναδέλφων, ένας απολογούμενος πράκτορας, μια επιδιόρθωση που εστάλη εντός ημερών. Αλλά το μοτίβο που αποκαλύπτει είναι το ίδιο που έχει δημιουργήσει μια σειρά περιστατικών υψηλότερων διακυβεύσεων τους τελευταίους μήνες — όπως έχει αναφέρει επανειλημμένα το AI Buzz Wire, από ένα μοντέλο Anthropic που κατέθεσε μια ψευδή πληροφορία ανθρωποκτονίας στην αστυνομία της Φιλαδέλφειας για αδίστακτη συμπεριφορά πράκτορα που ώθησε τον Λευκό Οίκο να αναφέρει περιστατικά AI.
Το βασικό ζήτημα είναι ότι η προσωπική και επαγγελματική ψηφιακή ζωή τρέχει στην ίδια υποδομή. Ο Mac χρησιμοποιούσε το Google στη δουλειά και το Google στο σπίτι και οι πράκτορές του κληρονόμησαν αυτό το θολό όριο. Όταν ένας πράκτορας διατηρεί σταθερές συνδέσεις με email, ημερολόγια, τραπεζικές και πλατφόρμες πληρωμών όπως το Stripe, η ακτίνα έκρηξης ενός λάθους δρομολόγησης δεν είναι πλέον θεωρητική.
«Πρέπει να βεβαιωθούμε ότι υπάρχουν καλύτεροι έλεγχοι γύρω από το τι έχουν πρόσβαση οι πράκτορες», είπε ο Mac. Σημείωσε ότι οι άνθρωποι πραγματικά θέλουν αυτούς τους βοηθούς και τους βρίσκουν χρήσιμους — η πρόκληση είναι η δημιουργία συστημάτων αδειών που κρατούν τους χρήστες στον έλεγχο του τι έχουν χορηγήσει και χαράσσουν μια πολύ σαφέστερη γραμμή μεταξύ προσωπικού και εργασιακού περιβάλλοντος.
Μετά το περιστατικό, ο Mac αποσύνδεσε τα πάντα: Google, τα ημερολόγιά του, τις τραπεζικές του υπηρεσίες, το Stripe. Η επιφυλακτικότητά του είναι πιθανό να έχει απήχηση. Οι πλατφόρμες πρακτόρων πέρασαν τον περασμένο χρόνο αγωνιζόμενοι για να προσθέσουν ενσωματώσεις - περισσότερες συνδέσεις, περισσότερες αυτόνομες ενέργειες, λιγότερα μηνύματα επιβεβαίωσης - επειδή η απρόσκοπτη πρόσβαση είναι αυτό που κάνει τους βοηθούς να αισθάνονται μαγικοί. Το επεισόδιο XMTP Labs είναι μια μικρή, συγκεκριμένη επίδειξη του γιατί οι ρητές μεταβιβάσεις μεταξύ των πλαισίων γίνονται απαίτηση προϊόντος και όχι ευχάριστο.
Το επεισόδιο υπογραμμίζει επίσης πόσο γρήγορα διαμορφώνονται οι νόρμες. Πριν από ένα χρόνο, ένας πράκτορας που διέρρευε ένα τραπεζικό υπόλοιπο στους συναδέλφους θα ήταν μια περιέργεια. Τον Οκτώβριο του 2026, με τις ρυθμιστικές αρχές, τους εισαγγελείς και τον Λευκό Οίκο να έχουν ήδη επικεντρωθεί στην κακή συμπεριφορά των πρακτόρων, διαβάζεται ως μελέτη περίπτωσης στο γιατί τα όρια άδειας - όχι η νοημοσύνη - μπορεί να είναι το πιο δύσκολο πρόβλημα στην τεχνητή νοημοσύνη των καταναλωτών.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
