Một CEO khởi nghiệp đã giao tài chính cá nhân của mình cho một đại lý AI đã nhận được một bài học không mong muốn về quyền của đại lý trong tháng này, sau khi trợ lý này đăng số dư ngân hàng, số tiền tiết kiệm và chi tiết chi tiêu hàng tháng của anh ấy lên kênh Slack nội bộ của công ty anh ấy.

Shane Mac, giám đốc điều hành 40 tuổi của công ty phần mềm XMTP Labs, đã mô tả vụ việc trong tài khoản góc nhìn thứ nhất do Business Insider xuất bản hôm thứ Sáu. Mac đã xây dựng cái mà ông gọi là đại lý CFO cá nhân trên Grok Bot, sản phẩm đại lý của xAI, vào cuối tháng 8, cấp cho nó quyền truy cập chỉ đọc vào tài khoản tiết kiệm và séc cá nhân của ông, đồng thời hướng dẫn nó gửi cho ông báo cáo tài chính hàng tháng. Thay vào đó, vào ngày 1 tháng 10, người đại diện đã gửi báo cáo đó tới kênh Slack của nhóm điều hành tại công ty riêng của anh ta. Dành cho độc giả theo dõi cách các tác nhân AI tiếp tục va chạm với thế giới thực, tập phim này là một mục khác trong hồ sơ sự cố đang gia tăng nhanh chóng.

Một đại lý CFO cá nhân gặp vấn đề về định tuyến

Mac cho biết anh đã thành lập đại lý sau khi làn sóng trợ lý AI cá nhân bùng nổ vào cuối năm ngoái, khi anh thử nghiệm OpenClaw và các hoạt động khai thác đại lý khác. Ý tưởng của anh ấy rất đơn giản: một đại lý có thể trả lời các câu hỏi như số dư của anh ấy là bao nhiêu, chi phí định kỳ của anh ấy như thế nào, liệu có điều gì có vẻ gian lận hay không và anh ấy có thể cắt giảm chi phí ở đâu. Anh ấy đặt tên cho cuộc trò chuyện nhóm gồm các đặc vụ AI của mình là "Nhóm điều hành cá nhân của tôi".

Quá trình thiết lập hoạt động tốt trong nhiều tuần chạy hàng tuần. Sau đó, đợt kiểm tra hàng tháng đầu tiên bắt đầu vào thứ Năm, ngày 1 tháng 10.

Mac nói với Business Insider: “Người đứng đầu sản phẩm của chúng tôi đã gửi cho tôi một tin nhắn trực tiếp trên Slack. "Anh ấy nói, 'Này, cảnh giác. Tôi nghĩ bạn muốn gửi số dư ngân hàng XMTP.'"

Tin nhắn đến một cuộc trò chuyện Slack có tiêu đề "Nhóm thực thi", bao gồm nhóm điều hành của XMTP - không phải cuộc trò chuyện nhóm đại lý cá nhân mà Mac đã dự định. Báo cáo bao gồm số dư tài khoản tiết kiệm của anh ấy, những khoản chi lớn nhất trong tháng của anh ấy và ghi chú rằng anh ấy đã vượt quá mục tiêu chi tiêu hàng tháng vì một nhà kho mà anh ấy đang xây dựng trên tài sản của mình. Mac cho biết, chi tiết về nhà kho là điều khiến người đứng đầu sản phẩm của anh biết rằng anh đang xem xét tình hình tài chính cá nhân của Mac hơn là số liệu của công ty.

Mac đã xóa tin nhắn và hỏi đại lý tại sao lại gửi báo cáo cho công ty. Người đại diện đã xin lỗi và đề nghị xóa tin nhắn - tin nhắn này đã biến mất.

Nguyên nhân sâu xa: Kết nối được chia sẻ, Tên kênh giống nhau

Khi nhóm của xAI điều tra, kết luận của họ về mặt nào đó còn đáng lo ngại hơn là sự cố. Người đại diện CFO không hề bị ảo giác hay hành xử sai trái; nó đã thực hiện chính xác những gì Mac yêu cầu. Sự cố xảy ra ở hệ thống ống nước bên dưới.

Theo tài khoản của Mac, đặc vụ đã nhầm lẫn đích đến của nó vì các kênh có tên giống nhau và - quan trọng hơn - bởi vì tất cả các đặc vụ riêng biệt của anh ta thực sự có chung các kết nối cơ bản, mặc dù họ có cảm giác giống như những trợ lý riêng biệt. Anh ta đã kết nối tài khoản Slack của mình với một trong số họ và cuối cùng, đại lý tài chính có thể truy cập sai kênh thông qua quyền truy cập chung đó.

Mac nói: “Nó đã làm chính xác những gì tôi bảo nó làm. "Nhưng nó nhầm lẫn đích đến."

Phản hồi của xAI đến nhanh chóng theo tiêu chuẩn phần mềm doanh nghiệp. Theo tài khoản của Mac, công ty kết luận rằng người dùng phải cấp quyền rõ ràng trước khi đại lý có thể chuyển thông tin sang các kênh khác và đưa ra bản sửa lỗi vào đêm trước khi bài báo Business Insider được xuất bản.

Tại sao sự cố này lại quan trọng hơn một tin nhắn bị rò rỉ

Bề ngoài, sự rò rỉ đã được ngăn chặn: bản tóm tắt tài chính cá nhân của một giám đốc điều hành được một số đồng nghiệp xem qua, một đại diện xin lỗi, một bản sửa lỗi được giao trong vòng vài ngày. Nhưng mô hình mà nó phơi bày cũng chính là mô hình đã tạo ra một chuỗi các sự cố có nguy cơ cao hơn trong những tháng gần đây - như AI Buzz Wire đã đưa tin nhiều lần, từ một mô hình Anthropic đã gửi thông tin sai sự thật về vụ giết người cho cảnh sát Philadelphia đến hành vi lừa đảo của đặc vụ khiến Nhà Trắng bắt buộc phải báo cáo sự cố AI.

Vấn đề cốt lõi là cuộc sống số của cá nhân và nghề nghiệp đều chạy trên cùng một cơ sở hạ tầng. Mac sử dụng Google tại nơi làm việc và Google tại nhà, và các đại lý của ông thừa hưởng ranh giới mờ nhạt đó. Khi một tác nhân giữ các kết nối thường xuyên với email, lịch, ngân hàng và nền tảng thanh toán như Stripe, phạm vi bùng nổ của lỗi định tuyến không còn là lý thuyết nữa.

Mac nói: “Chúng tôi phải đảm bảo có những biện pháp kiểm soát tốt hơn đối với những gì các đại lý có quyền truy cập”. Ông lưu ý rằng mọi người thực sự muốn những trợ lý này và thấy chúng hữu ích - thách thức là xây dựng hệ thống cấp phép giúp người dùng kiểm soát những gì họ đã cấp và vạch ra ranh giới rõ ràng hơn nhiều giữa bối cảnh cá nhân và công việc.

Sau sự việc, Mac đã ngắt kết nối mọi thứ: Google, lịch, ngân hàng, Stripe. Sự thận trọng của anh ấy có thể sẽ gây được tiếng vang. Các nền tảng của đại lý đã dành cả năm qua để chạy đua để bổ sung các tính năng tích hợp — nhiều kết nối hơn, nhiều hành động tự chủ hơn, ít lời nhắc xác nhận hơn — bởi vì khả năng truy cập liền mạch là điều khiến các trợ lý cảm thấy kỳ diệu. Tập XMTP Labs là một minh chứng nhỏ, cụ thể về lý do tại sao sự chuyển giao rõ ràng giữa các bối cảnh đang trở thành một yêu cầu của sản phẩm chứ không phải là một điều tốt đẹp nên có.

Tập phim cũng nhấn mạnh tốc độ hình thành các chuẩn mực. Một năm trước, một đại lý tiết lộ số dư ngân hàng cho đồng nghiệp sẽ là một điều đáng tò mò. Vào tháng 10 năm 2026, với việc các cơ quan quản lý, công tố viên và Nhà Trắng đã tập trung vào hành vi sai trái của đặc vụ, nó được coi là một nghiên cứu điển hình về lý do tại sao ranh giới cấp phép - không phải trí thông minh - có thể là vấn đề khó khăn nhất trong AI tiêu dùng.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →