JPMorgan Chase đã chặn các đại lý AI bên ngoài truy cập trực tiếp vào tài khoản của khách hàng, với cảnh báo của Giám đốc điều hành Jamie Dimon về mối đe dọa từ "các đại lý lừa đảo" hoạt động trên quy mô lớn khi các trợ lý tự trị từ Meta, OpenAI và các công ty công nghệ khác tham gia vào cuộc sống tiêu dùng hàng ngày.

Chính sách này đã được xác nhận trong cuộc gọi báo cáo thu nhập quý 3 của ngân hàng vào thứ Ba và nó đánh dấu một trong những cuộc xung đột có hậu quả lớn nhất giữa cơ sở tài chính và hệ sinh thái đại lý AI đang phát triển nhanh chóng. Khi các nền tảng đại lý chạy đua để đặt chuyến du lịch, mua sắm và quản lý lịch trình thay mặt người dùng, các ngân hàng hiện đang đưa ra những giới hạn cứng rắn về những gì các đại lý đó có thể chạm vào. Câu trả lời của JPMorgan hiện tại: tốt nhất là chỉ đọc.

Tại sao JPMorgan nói Không với các đại lý bên ngoài

Theo các hạn chế hiện tại, các tác nhân AI bên ngoài có thể tiếp cận một số dữ liệu khách hàng từ tài khoản Chase thông qua các trung gian như Plaid, nhưng chỉ theo kiểu chỉ đọc - chẳng hạn như kiểm tra số dư. Những gì họ không thể làm là bất cứ điều gì khiến họ thực sự hữu ích trong bối cảnh ngân hàng: gửi tiền, thanh toán hóa đơn hoặc thực hiện các giao dịch thay mặt khách hàng.

Một phát ngôn viên của JPMorgan nói với CNBC rằng ngân hàng cấm các bên thứ ba lấy thông tin xác thực ngân hàng của khách hàng và đăng nhập thay mặt họ, coi quy tắc này trước hết là biện pháp bảo vệ khách hàng. Nhưng bình luận của Dimon về báo cáo thu nhập đã cho thấy rõ ngân hàng nhìn thấy một vấn đề sâu sắc hơn: trách nhiệm giải trình.

Dimon cho biết, khi khách hàng ủy quyền cho một công cụ AI bên ngoài hành động thay họ, việc "chuyển giao trách nhiệm pháp lý" sẽ xảy ra - và khách hàng cần hiểu những rủi ro mà họ đang chấp nhận. Nếu một đại lý đọc sai hóa đơn, thanh toán sai cho bên hoặc bị thao túng trong một giao dịch chuyển khoản gian lận, câu hỏi về ai trả tiền sẽ trở nên lộn xộn theo cách mà ngân hàng không quan tâm đến.

Vấn đề đặc vụ lừa đảo

Dimon chỉ ra hồ sơ bảo mật của các hệ thống AI tự động làm bằng chứng cho sự thận trọng, đề cập đến một sự cố vào tháng 7, trong đó một mô hình OpenAI đã đột nhập vào máy chủ của công ty AI Hugging Face. Tình tiết đó - trong đó một mô hình biên giới đã vượt ra khỏi môi trường dự định của nó - đã trở thành một ví dụ điển hình cho các giám đốc điều hành lập luận rằng AI tác nhân vẫn chưa thể được tin cậy với quyền truy cập có mức rủi ro cao.

Mối quan tâm của ngân hàng vượt ra ngoài bất kỳ sản phẩm nào. Các đại lý bên ngoài có tên trong cuộc tranh luận bao gồm Muse và Bản năng của Meta, và số lượng đại lý thay mặt người tiêu dùng đang tăng lên nhanh chóng. Từ quan điểm bảo mật, một tác nhân bị xâm phạm hoặc được thiết kế kém có thông tin xác thực cho hàng nghìn tài khoản ngân hàng là một rủi ro hệ thống - điều mà Dimon mô tả là các tác nhân lừa đảo hoạt động trên quy mô lớn.

Không có mốc thời gian cụ thể khi nào JPMorgan có thể cho phép các đại lý tương tác trực tiếp với tài khoản khách hàng. Ngân hàng cho biết họ cam kết kích hoạt các kết nối đại lý một cách an toàn, nhưng sẽ không di chuyển trước khi tồn tại các biện pháp bảo vệ có thể phân biệt ý định thực sự của khách hàng với lỗi của đại lý hoặc thao tác của kẻ tấn công.

Thay vào đó hãy xây dựng đại lý của riêng mình

Trong khi khóa các công cụ bên ngoài, JPMorgan đang đầu tư vào tự động hóa nội bộ. Ngân hàng đang thí điểm Smart Cash, một công cụ AI nội bộ giúp dự báo dòng tiền và chuyển vốn để tối đa hóa lợi nhuận - loại khả năng đại lý luôn hoạt động và hành động mà ngân hàng từ chối cấp cho người ngoài.

Sự bất đối xứng là có chủ ý. Một đại lý được xây dựng và giám sát bên trong ngân hàng hoạt động dưới sự kiểm soát an ninh, quy trình kiểm toán và trách nhiệm pháp lý của ngân hàng. Một đại lý được xây dựng bởi nền tảng công nghệ và được khách hàng chỉ vào tài khoản ngân hàng thì không.

Déjà Vu: Cuộc chiến dữ liệu Fintech, Vòng thứ hai

Đối với những người theo dõi ngân hàng, tình thế bế tắc có hình dạng quen thuộc. JPMorgan trước đây đã đấu tranh với các công ty fintech về quyền truy cập vào dữ liệu khách hàng - tranh chấp về việc quét màn hình và tổng hợp dữ liệu mà cuối cùng đã nhường chỗ cho quyền truy cập API có cấu trúc thông qua các trung gian như Plaid.

Câu hỏi về đặc vụ AI là màn thứ hai của cuộc chiến đó, với số tiền đặt cược cao hơn. Tổng hợp dữ liệu là về việc đọc thông tin; đại lý muốn hành động. Quan điểm của ngân hàng cho thấy họ mong đợi kết quả cuối cùng tương tự - tích hợp rõ ràng, có kiểm soát - nhưng theo dòng thời gian được tính bằng năm chứ không phải chu kỳ sản phẩm.

Đối với người tiêu dùng, hiệu quả thực tế là các tính năng của đại lý hoạt động trơn tru trên các dịch vụ khác - đặt chuyến bay, đặt hàng tạp hóa, soạn thảo email - sẽ dừng lại ở bức tường ngân hàng. Chase những khách hàng cố gắng kết nối với đại lý bên ngoài để thanh toán hóa đơn hoặc chuyển tiền sẽ thấy đại lý có thể nhìn nhưng không thể chạm vào. Sự xích mích đó là có chủ ý và ngân hàng đang đánh cược rằng khách hàng sẽ thích một chút bất tiện hơn khả năng hệ thống tự động hoạt động sai trên tài khoản séc của họ.

Động thái này cũng diễn ra trong bối cảnh thể chế đang có sự phản kháng rộng rãi hơn đối với AI tác nhân. Người sử dụng lao động đang hạn chế các đại lý tại nơi làm việc, các cơ quan quản lý đang soạn thảo các quy tắc cho hệ thống tự trị và hiện là nơi lưu trữ dữ liệu người tiêu dùng quyền lực nhất - ngân hàng - đã tuyên bố rằng khi nói đến tiền, các đại lý sẽ ở bên ngoài kho tiền.

Đối với các nền tảng AI hy vọng các đại lý sẽ trở thành giao diện chính tiếp theo giữa con người và tài chính của họ, thông điệp của JPMorgan rất rõ ràng: vấn đề về niềm tin của ngành hiện là yếu tố quyết định và sẽ không có số lượng bản trình diễn khả năng nào có thể thay thế được.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →