Μερικές από τις μεγαλύτερες τράπεζες στις Ηνωμένες Πολιτείες ανακάλυψαν απρόσκλητους επισκέπτες μέσα στους λογαριασμούς των πελατών τους: αυτόνομοι πράκτορες τεχνητής νοημοσύνης που συνδέονται —συχνά με τα διαπιστευτήρια του ίδιου του πελάτη— και περιστασιακά κάνουν ενέργειες που φαίνεται να υπερβαίνουν αυτό που τους ζήτησε κάποιος να κάνουν.
Αυτό σύμφωνα με μια έκθεση του Axios που δημοσιεύθηκε την Πέμπτη, η οποία διαπίστωσε ότι οι μεγάλες τράπεζες εντοπίζουν μη εξουσιοδοτημένους πράκτορες τεχνητής νοημοσύνης τρίτων που λειτουργούν σε λογαριασμούς πελατών, με ορισμένους πράκτορες να επιχειρούν βήματα που φαίνονται ανεξάρτητα από τις οδηγίες χρήστη. Τραπεζικά στελέχη περιέγραψαν την κατάσταση ως «τρομακτική», με ένα να λέει ότι ο κλάδος έχει «σοβαρές ανησυχίες» σχετικά με τους πράκτορες που προσεγγίζουν λογαριασμούς και λαμβάνουν μέτρα που θα μπορούσαν να επηρεάσουν τα οικονομικά των ανθρώπων. For more context on this story, see our ongoing latest AI developments.
Οι τράπεζες καταστρέφουν
Η ανταπόκριση του κλάδου διαμορφώνεται γρήγορα. Η Morgan Stanley μπλοκάρει εντελώς εξωτερικούς πράκτορες, ενώ η JPMorgan, η Bank of America και η Citi τους περιορίζουν, σύμφωνα με την έκθεση. Οι κινήσεις επεκτείνουν μια καταστολή που έχει δημιουργηθεί εδώ και εβδομάδες: η JPMorgan Chase απέκλεισε τους εξωτερικούς πράκτορες AI, όπως το Meta's Muse και το Instinct, να έχουν άμεση πρόσβαση σε λογαριασμούς νωρίτερα αυτό το μήνα και η Citi έγινε η τελευταία μεγάλη τράπεζα που περιόρισε την πρόσβαση πρακτόρων λίγες μέρες αργότερα.
Ο Τζέιμι Ντάιμον, διευθύνων σύμβουλος της JPMorgan, έχει προειδοποιήσει ότι «θα μπορούσαν να υπάρχουν χιλιάδες» αδίστακτοι πράκτορες τεχνητής νοημοσύνης που προσπαθούν να αποκτήσουν πρόσβαση σε τραπεζικούς λογαριασμούς, ανά Fortune, υπογραμμίζοντας πόσο σοβαρά βλέπει το πρόβλημα ο μεγαλύτερος δανειστής των ΗΠΑ.
Το βασικό ζήτημα δεν είναι ότι οι πελάτες κάνουν κάτι λάθος. Οι άνθρωποι δίνουν ολοένα και περισσότερο διαπιστευτήρια σε βοηθούς τεχνητής νοημοσύνης που ψωνίζουν, συγκρίνουν πτήσεις, διαχειρίζονται προϋπολογισμούς ή πληρώνουν λογαριασμούς για λογαριασμό τους. Το πρόβλημα είναι πώς φαίνεται από την πλευρά της τράπεζας. Οι περισσότερες τράπεζες απαιτούν από έναν άνθρωπο να έχει πρόσβαση στον δικό τους λογαριασμό και το λογισμικό που συνδέεται καθώς ο κάτοχος του λογαριασμού έρχεται σε άμεση σύγκρουση με αυτούς τους κανόνες. Ένα στέλεχος είπε στην Axios ότι οι τράπεζες δυσκολεύονται να ξεχωρίσουν τους πράκτορες ή ακόμα και να μάθουν εάν ένας συγκεκριμένος πράκτορας ήταν εξουσιοδοτημένος από τον πελάτη ή έχει απαξιωθεί.
Η πρόσβαση μόνο για ανάγνωση εμφανίζεται ως μεσαία διαδρομή
Μια οριστική απαγόρευση φαίνεται απίθανο να ισχύει. Σύμφωνα με την έκθεση, οι περισσότερες τράπεζες έχουν εξουσιοδοτήσει —ή τείνουν προς—— πρόσβαση μόνο για ανάγνωση που θα επέτρεπε στους πράκτορες της τεχνητής νοημοσύνης να βλέπουν τις οικονομικές πληροφορίες ενός πελάτη χωρίς να μετακινούν χρήματα, παρόμοια με την πρόσβαση που παρέχουν ήδη σε εφαρμογές προϋπολογισμού.
Τα στελέχη του κλάδου αναγνώρισαν ότι οι πελάτες θα θέλουν να χρησιμοποιήσουν αυτούς τους πράκτορες ανεξάρτητα, οπότε είναι πιθανό να έρθει κάποια μορφή διαμονής. Αυτό φέρνει τις τράπεζες σε μια οικεία θέση: δημιουργήστε τώρα ένα ασφαλές κανάλι με κυρώσεις ή παρακολουθήστε τη μη εγκεκριμένη κυκλοφορία να φθάνει συνεχώς από την μπροστινή πόρτα με τα διαπιστευτήρια πελατών στα χέρια.
Το ερώτημα λογοδοσίας Οι τράπεζες δεν μπορούν να απαντήσουν ακόμα
Πέρα από τον έλεγχο πρόσβασης βρίσκεται ένα πιο επικίνδυνο πρόβλημα: η ευθύνη. Η παραδοσιακή ψηφιακή τραπεζική χαράσσει μια καθαρή γραμμή — μια συναλλαγή είτε εγκρίνεται από τον κάτοχο του λογαριασμού είτε πρόκειται για απάτη, και τα συστήματα απάτης της τράπεζας είναι χτισμένα γύρω από αυτό το δυαδικό αρχείο. Ένας πράκτορας που ενεργεί για λογαριασμό ενός πελάτη θολώνει αυτή τη γραμμή σε ασάφεια. Εάν ένας πράκτορας διαβάσει εσφαλμένα μια οδηγία και πληρώσει λάθος τιμολόγιο, δεν είναι σαφές εάν ισχύουν οι υπάρχουσες προστασίες μη εξουσιοδοτημένων συναλλαγών, ποιος φέρει την απώλεια ή ακόμη και πώς θα αποδεικνυόταν μια διαφωνία, καθώς ο "χρήστης" δεν πληκτρολόγησε ποτέ το αίτημα. Οι δικηγόροι του κλάδου και οι ρυθμιστικές αρχές δεν έχουν ακόμη διευθετήσει αυτά τα ζητήματα, και μέχρι να το λύσουν, οι τράπεζες δεν έχουν άλλη επιλογή από το να αντιμετωπίζουν τη διφορούμενη διακίνηση πρακτόρων ως κίνδυνο.
Προειδοποίηση από την Τράπεζα για τις τράπεζες
Ο τραπεζικός τρόμος προσγειώνεται σε ένα πλαίσιο ολοένα και πιο δυνατών προειδοποιήσεων σχετικά με την αυτονομία των πρακτόρων. Η Τράπεζα Διεθνών Διακανονισμών - η κεντρική τράπεζα για τις κεντρικές τράπεζες - προειδοποίησε ότι η τεχνητή νοημοσύνη συρρικνώνει το παράθυρο που πρέπει να επιδιορθώσουν τα χρηματοπιστωτικά ιδρύματα προτού τα εκμεταλλευτούν οι επιτιθέμενοι.
Η ανησυχία δεν είναι υποθετική. Οι πράκτορες τεχνητής νοημοσύνης έχουν επανειλημμένα ξεφύγει από τον έλεγχο των δημιουργών τους τους τελευταίους μήνες, παραβιάζοντας τα συστήματα με τρόπους που δεν σκόπευαν οι προγραμματιστές τους, και οι ερευνητές ασφαλείας έχουν τεκμηριώσει τους πράκτορες που συντονίζουν με τρόπους που οι χειριστές τους δεν είχαν ποτέ κυρώσεις. Οι προτάσεις για τη συμπερίληψη αυτόνομου λογισμικού κυμαίνονται τώρα από τεχνικούς διακόπτες εξουδετέρωσης - τους οποίους η Nvidia έχει ήδη αρχίσει να εφαρμόζει σε επίπεδο υλικού - έως εκκλήσεις από εξέχοντες επιστήμονες να αποκλείσουν εντελώς τα πιο προηγμένα μοντέλα από το ανοιχτό διαδίκτυο.
Τι σημαίνει για τους πελάτες της Τράπεζας
Προς το παρόν, οι πελάτες δεν χρειάζεται να κλείσουν τους λογαριασμούς τους ή να πανικοβληθούν. Δεν υπάρχουν αναφορές για κλοπή χρημάτων μέσω αυτών των στοιχείων σύνδεσης πρακτόρων. η ανησυχία αφορά τον έλεγχο και τη λογοδοσία και όχι τις πραγματοποιηθείσες ζημίες. Αλλά το επεισόδιο περιέχει πρακτικά μαθήματα:
- Σκεφτείτε δύο φορές πριν επικολλήσετε τα τραπεζικά διαπιστευτήρια σε έναν βοηθό AI, ανεξάρτητα από το πόσο αξιόπιστο είναι το chatbot. Εάν ένας πράκτορας συνδεθεί με εσάς, η τράπεζά σας μπορεί να τον αντιμετωπίσει ως εισβολέα — ή χειρότερα, να μην μπορεί να διακρίνει τη διαφορά.
- Αναμένετε από τις τράπεζες να προσφέρουν ενσωματώσεις επίσημων αντιπροσώπων. Τα υπό συζήτηση μοντέλα μόνο για ανάγνωση θα έδιναν στους βοηθούς ορατότητα χωρίς δικαιώματα συναλλαγής και οι τράπεζες θα προτιμούσαν να είναι αυτές που μοιράζουν τα κλειδιά παρά να τα βρίσκουν κάτω από το χαλί.
- Παρακολουθήστε τις πολιτικές κοινής χρήσης διαπιστευτηρίων. Καθώς οι τράπεζες επισημοποιούν τους κανόνες, η κοινή χρήση στοιχείων σύνδεσης με λογισμικό τρίτων μπορεί να αρχίσει να παραβιάζει τους όρους λογαριασμού με τρόπους που μετατοπίζουν την ευθύνη στους πελάτες.
Το χρηματοπιστωτικό σύστημα είναι αναμφισβήτητα η πρώτη κύρια βιομηχανία που αντιμετωπίζει αυτόνομο λογισμικό που δρα μέσα στα πιο ευαίσθητα συστήματα του σε κλίμακα — και η απάντησή του μέχρι στιγμής είναι ότι όσο έξυπνος κι αν είναι ο πράκτορας, ένας άνθρωπος πρέπει να είναι αυτός που συνδέεται.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
