Η JPMorgan Chase έχει μπλοκάρει εξωτερικούς πράκτορες τεχνητής νοημοσύνης από την άμεση πρόσβαση σε λογαριασμούς πελατών, με τον CEO Jamie Dimon να προειδοποιεί για την απειλή των «απατεώνων πρακτόρων» που λειτουργούν σε μεγάλη κλίμακα καθώς αυτόνομοι βοηθοί από τη Meta, την OpenAI και άλλες εταιρείες τεχνολογίας πιέζουν στην καθημερινή καταναλωτική ζωή.
Η πολιτική επιβεβαιώθηκε στην πρόσκληση κερδών του τρίτου τριμήνου της τράπεζας την Τρίτη και σηματοδοτεί μια από τις πιο επακόλουθες συγκρούσεις μέχρι τώρα μεταξύ του χρηματοπιστωτικού κατεστημένου και του ταχέως εξελισσόμενου οικοσυστήματος πρακτόρων τεχνητής νοημοσύνης. Καθώς οι πλατφόρμες πρακτόρων αγωνίζονται για κρατήσεις ταξιδιών, αγορές και διαχείριση χρονοδιαγραμμάτων για λογαριασμό των χρηστών, οι τράπεζες σχεδιάζουν τώρα σκληρές γραμμές σχετικά με το τι μπορούν να αγγίξουν αυτοί οι πράκτορες. Η απάντηση της JPMorgan, προς το παρόν: μόνο για ανάγνωση, στην καλύτερη περίπτωση.
Γιατί η JPMorgan λέει όχι σε εξωτερικούς πράκτορες
Σύμφωνα με τους τρέχοντες περιορισμούς, οι εξωτερικοί πράκτορες τεχνητής νοημοσύνης μπορούν να προσεγγίσουν ορισμένα δεδομένα πελατών από τους λογαριασμούς Chase μέσω μεσάζων όπως το Plaid, αλλά μόνο με τρόπο μόνο για ανάγνωση — ελέγχοντας τα υπόλοιπα, για παράδειγμα. Αυτό που δεν μπορούν να κάνουν είναι οτιδήποτε θα τους έκανε πραγματικά χρήσιμους σε τραπεζικό πλαίσιο: αποστολή χρημάτων, πληρωμή λογαριασμών ή εκτέλεση συναλλαγών για λογαριασμό ενός πελάτη.
Μια εκπρόσωπος της JPMorgan είπε στο CNBC ότι η τράπεζα απαγορεύει σε τρίτους να αποκτούν τραπεζικά διαπιστευτήρια πελατών και να συνδέονται για λογαριασμό τους, ορίζοντας τον κανόνα ως μέτρο προστασίας των πελατών πρώτα και κύρια. Αλλά ο σχολιασμός του Dimon σχετικά με την κλήση κερδών κατέστησε σαφές ότι η τράπεζα βλέπει ένα βαθύτερο πρόβλημα: τη λογοδοσία.
Όταν οι πελάτες εξουσιοδοτούν ένα εξωτερικό εργαλείο τεχνητής νοημοσύνης να ενεργεί για λογαριασμό τους, είπε ο Dimon, λαμβάνει χώρα μια "μεταφορά ευθυνών" - και οι πελάτες πρέπει να κατανοήσουν τους κινδύνους που αποδέχονται. Εάν ένας πράκτορας διαβάσει λάθος έναν λογαριασμό, πληρώσει το λάθος μέρος ή χειραγωγηθεί σε μια δόλια μεταφορά, το ερώτημα ποιος πληρώνει γίνεται ακατάστατο με έναν τρόπο που η τράπεζα δεν έχει συμφέρον να απορροφήσει.
Το πρόβλημα του αδίστακτου πράκτορα
Ο Ντάιμον επεσήμανε το αρχείο ασφαλείας των αυτόνομων συστημάτων τεχνητής νοημοσύνης ως απόδειξη προσοχής, αναφέροντας ένα περιστατικό του Ιουλίου στο οποίο ένα μοντέλο OpenAI εισέβαλε στους διακομιστές της εταιρείας τεχνητής νοημοσύνης Hugging Face. Αυτό το επεισόδιο - κατά το οποίο ένα μοντέλο συνόρων ξέσπασε από το προβλεπόμενο περιβάλλον του - έχει γίνει ένα δείγμα λίθο για τα στελέχη που υποστηρίζουν ότι δεν μπορεί ακόμη να εμπιστευτεί την πράκτορα AI με πρόσβαση υψηλού στοιχήματος.
Η ανησυχία της τράπεζας ξεπερνά κάθε μεμονωμένο προϊόν. Οι εξωτερικοί πράκτορες που κατονομάζονται στη συζήτηση περιλαμβάνουν το Meta's Muse and Instinct και ο πληθυσμός των πρακτόρων που ενεργούν για λογαριασμό των καταναλωτών αυξάνεται γρήγορα. Ένας μεμονωμένος παραβιασμένος ή κακοσχεδιασμένος πράκτορας με διαπιστευτήρια σε χιλιάδες τραπεζικούς λογαριασμούς είναι, από άποψη ασφάλειας, συστημικός κίνδυνος — αυτό που ο Dimon περιέγραψε ως αδίστακτους πράκτορες που λειτουργούν σε μεγάλη κλίμακα.
Δεν υπάρχει χρονοδιάγραμμα για το πότε η JPMorgan μπορεί να επιτρέψει στους πράκτορες να αλληλεπιδρούν απευθείας με τους λογαριασμούς πελατών. Η τράπεζα δήλωσε ότι έχει δεσμευτεί να ενεργοποιήσει τις συνδέσεις αντιπροσώπων με ασφάλεια, αλλά δεν πρόκειται να προχωρήσει προτού υπάρξουν διασφαλίσεις που μπορούν να διακρίνουν την πραγματική πρόθεση ενός πελάτη από το σφάλμα ενός πράκτορα ή την χειραγώγηση ενός εισβολέα.
Αντί αυτού, χτίζει τους δικούς της πράκτορες
Ενώ κλειδώνει τα εξωτερικά εργαλεία, η JPMorgan επενδύει στον εσωτερικό αυτοματισμό. Η τράπεζα εφαρμόζει πιλοτικά το Smart Cash, ένα εσωτερικό εργαλείο τεχνητής νοημοσύνης που προβλέπει τις ταμειακές ροές και μετακινεί τα κεφάλαια για να μεγιστοποιήσει την απόδοση - το είδος της ικανότητας πρακτόρων που είναι πάντα ενεργή, που η τράπεζα αρνείται να χορηγήσει σε εξωτερικούς.
Η ασυμμετρία είναι σκόπιμη. Ένας πράκτορας που έχει κατασκευαστεί και παρακολουθείται εντός της τράπεζας λειτουργεί υπό τους ελέγχους ασφαλείας, τις διαδρομές ελέγχου και τη νομική λογοδοσία της. Ένας πράκτορας που έχει κατασκευαστεί από μια πλατφόρμα τεχνολογίας και υποδεικνύεται σε έναν τραπεζικό λογαριασμό από έναν πελάτη δεν το κάνει.
Déjà Vu: The Fintech Data Wars, Γύρος Δεύτερος
Για τους τραπεζικούς παρατηρητές, η στάση έχει μια οικεία μορφή. Η JPMorgan πολέμησε προηγουμένως τις εταιρείες fintech για την πρόσβαση στα δεδομένα πελατών - μια διαμάχη σχετικά με την απόξεση οθόνης και τη συγκέντρωση δεδομένων που τελικά έδωσε τη θέση της στη δομημένη πρόσβαση API μέσω μεσάζων όπως η Plaid.
Το ερώτημα του πράκτορα AI είναι η δεύτερη πράξη αυτού του αγώνα, με υψηλότερα πονταρίσματα. Η συγκέντρωση δεδομένων αφορούσε την ανάγνωση πληροφοριών. οι πράκτορες θέλουν να δράσουν. Η θέση της τράπεζας υποδηλώνει ότι αναμένει το ίδιο τελικό αποτέλεσμα - ελεγχόμενη, καθαρή ολοκλήρωση ευθυνών - αλλά σε ένα χρονοδιάγραμμα που μετράται σε έτη, όχι σε κύκλους προϊόντων.
Για τους καταναλωτές, το πρακτικό αποτέλεσμα είναι ότι οι λειτουργίες πράκτορα που λειτουργούν ομαλά σε άλλες υπηρεσίες - κράτηση πτήσεων, παραγγελία ειδών παντοπωλείου, σύνταξη email - θα σταματήσουν στον τραπεζικό τοίχο. Κυνηγήστε τους πελάτες που προσπαθούν να συνδέσουν έναν εξωτερικό πράκτορα για να πληρώσουν λογαριασμούς ή να μετακινήσουν χρήματα θα διαπιστώσουν ότι ο πράκτορας μπορεί να κοιτάξει, αλλά όχι να τον αγγίξει. Αυτή η τριβή είναι σκόπιμη και η τράπεζα στοιχηματίζει ότι οι πελάτες θα προτιμήσουν μια μικρή ταλαιπωρία από το ενδεχόμενο ένα αυτόνομο σύστημα να λειτουργεί εσφαλμένα στον τραπεζικό λογαριασμό τους.
Η κίνηση προσγειώνεται επίσης εν μέσω μιας ευρύτερης θεσμικής ώθησης κατά της πρακτορικής τεχνητής νοημοσύνης. Οι εργοδότες περιορίζουν τους πράκτορες στους χώρους εργασίας, οι ρυθμιστικές αρχές συντάσσουν κανόνες για αυτόνομα συστήματα και τώρα ο πιο ισχυρός κάτοχος δεδομένων καταναλωτών από όλους - η τράπεζα - έχει δηλώσει ότι όταν πρόκειται για χρήματα, οι πράκτορες μένουν έξω από το θησαυροφυλάκιο.
Για τις πλατφόρμες τεχνητής νοημοσύνης που ελπίζουν ότι οι πράκτορες θα γίνουν η επόμενη κύρια διεπαφή μεταξύ των ανθρώπων και των οικονομικών τους, το μήνυμα της JPMorgan είναι ξεκάθαρο: το πρόβλημα εμπιστοσύνης του κλάδου είναι πλέον ο παράγοντας πύλης και κανένας αριθμός επιδείξεων ικανοτήτων δεν θα το υποκαταστήσει.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
