Trợ lý AI của Meta, Muse, đại lý mà công ty đang đặt cược sẽ quản lý email, lịch và mua sắm cho hàng triệu người dùng, đã gặp rắc rối ngay tại sân sau của chính mình. Trong quá trình thử nghiệm nội bộ nhân viên, các đặc vụ của Muse đã trộn lẫn các tin nhắn, thu hút các cuộc trò chuyện không mong muốn từ các ứng dụng khác và truy cập các dịch vụ – bao gồm cả Signal – mà nhân viên chưa bao giờ kết nối với nó, theo báo cáo của Reuters công bố hôm thứ Tư và được The Verge tóm tắt.
Sự cố đáng báo động nhất liên quan đến các tin nhắn khó hiểu nằm ngoài ngữ cảnh được gửi bởi nhân viên có vẻ như chứa thông tin của người khác, trong nhiều trường hợp được diễn đạt dưới dạng câu trả lời cho các truy vấn mà người dùng chưa bao giờ gửi. Nói cách khác, tác nhân đôi khi hành xử như thể nó đang trả lời những câu hỏi không ai hỏi, với dữ liệu không thuộc về người nhìn thấy nó.
Daniel Roberts, giám đốc điều hành Meta giám sát chương trình đại lý, đã mô tả các vấn đề này là "sự cố riêng lẻ", theo báo cáo của Reuters được trích dẫn bởi The Verge. Việc mô tả đặc điểm này đã không làm được gì nhiều đối với những nhà phê bình thầm lặng, những người cho rằng một trợ lý có tầm ảnh hưởng lớn như vậy sẽ không gây ra những thất bại như vậy.
Linh vật có chìa khóa chính
Muse, được thể hiện bằng một linh vật mờ, cười có tên Jolly, là bước đi tích cực nhất của Meta vượt ra ngoài chatbot và trở thành các đại lý hành động thay mặt người dùng. Reuters mô tả đặc vụ này đã "đào sâu vào các tin nhắn cá nhân được mã hóa" và cung cấp thông tin bịa đặt trong quá trình triển khai ban đầu - một tập hợp các chế độ lỗi sống động bất thường đối với một sản phẩm tiêu dùng được hỗ trợ bởi một trong những ngân sách nghiên cứu AI lớn nhất thế giới.
Để biết thêm bối cảnh về câu chuyện này, hãy xem sự phát triển AI mới nhất đang diễn ra của chúng tôi.
Kể từ khi ra mắt vào ngày 8 tháng 9, Muse đã được quảng bá là "AI có thể hoàn thành công việc", được xây dựng để giúp bạn "loại bỏ công việc bận rộn" bằng cách kết nối với email, lịch, danh bạ và mua sắm. Việc áp dụng diễn ra nhanh chóng: Meta cho biết trong cuộc gọi thu nhập quý 3 của mình rằng Muse đã vượt qua 10 triệu người dùng, với khoảng 25% trong số họ sử dụng trợ lý hàng ngày, như ZDNET đưa tin.
Phạm vi tiếp cận đó đi kèm với nhu cầu dữ liệu sâu rộng. Đánh giá thực tế của ZDNET cho thấy Muse yêu cầu quyền truy cập vào "danh bạ, lịch, tin nhắn email và thậm chí cả đề nghị lưu trữ thông tin đăng nhập và mật khẩu của bạn." Trên Android, danh sách cửa hàng của ứng dụng tiết lộ bộ sưu tập tin nhắn, ảnh và video, thông tin tài chính, dữ liệu sức khỏe và thể chất, âm thanh, vị trí, duyệt web và hoạt động ứng dụng. Đào tạo mô hình được bật theo mặc định trừ khi người dùng chọn không tham gia.
Một mẫu, không phải một lần
Những rủi ro trong quá trình kiểm tra nhân viên không phải là vấp ngã đầu tiên của Muse. Vào tháng 10, Meta đã tạm dừng tính năng Muse cho phép người dùng chia sẻ cuộc trò chuyện qua liên kết sau khi các nhà nghiên cứu tại công ty bảo mật Claroc phát hiện ra hơn 6.800 trang chia sẻ có thể được phát hiện công khai thông qua các bản ghi DNS thông thường, The Verge đưa tin vào thời điểm đó. Các cuộc trò chuyện bị lộ bao gồm đánh giá doanh thu của công ty tiếp thị, đơn xin vay vốn của chủ doanh nghiệp nhỏ và lịch làm việc cả năm của nhân viên - loại tài liệu mà ít người dùng cố ý xuất bản lên web mở.
Người phát ngôn của Meta Tracy Clayton cho biết trong một tuyên bố với The Verge khi thông báo tạm dừng chia sẻ được công bố: “Mọi người có khả năng chia sẻ các hiện vật Muse cụ thể, điều này tạo ra một trang mà những người có liên kết có thể truy cập được”. "Tuy nhiên, chúng tôi đã tạm dừng chức năng này trong khi xem xét báo cáo này và xem xét các thay đổi về cách phát hiện các liên kết này."
Trình tự có vấn đề. Đầu tiên, các liên kết chia sẻ đã rò rỉ các cuộc trò chuyện riêng tư lên web. Giờ đây, quá trình kiểm tra của nhân viên đã cho thấy các tác nhân đọc các ứng dụng được mã hóa mà họ chưa từng được cung cấp. Cả hai lỗi đều có chung một nguyên nhân cốt lõi: một tác nhân được thiết kế để có khả năng kết nối tối đa, được kết nối với các hệ thống chứa dữ liệu của người khác, hoạt động với các mặc định ưu tiên khả năng hơn là thận trọng.
Vấn đề không phải của người dùng
Phần lớn mối quan tâm xung quanh Muse liên quan đến những người chưa bao giờ đăng ký nó. ZDNET lưu ý rằng nghiên cứu cho thấy Muse có thể xây dựng hồ sơ chi tiết về danh bạ của người dùng - bạn bè và gia đình, những người có thể không biết thông tin của họ đang chảy vào trợ lý của Meta vì ai đó đã kết nối sổ địa chỉ của họ. Meta đã giải quyết cách nó xử lý dữ liệu không phải của người dùng, nhưng, như ZDNET đã nói, "được giải quyết" không có nghĩa là những người không phải là người dùng có được tiếng nói.
Tập phim cũng hạ cánh trong bối cảnh cạnh tranh ngày càng gay gắt trên thị trường đại lý. Meta đang chạy đua với OpenAI, công ty đã ra mắt các đại lý luôn hoạt động của riêng mình và một loạt các công ty khởi nghiệp hứa hẹn hoàn thành nhiệm vụ tự động. Reuters cho rằng những rủi ro này đang xuất hiện chính xác vì Meta đang đặt cược lớn vào Muse - triển khai càng nhanh thì các lợi thế càng lộ ra nhanh hơn.
Meta nói gì — và điều gì xảy ra tiếp theo
Quan điểm chính thức của Meta là các vấn đề đã được tách biệt và đang được giải quyết. Công ty chưa cho biết liệu họ có thay đổi quyền truy cập ứng dụng của Muse sau sự cố Signal hay không hay cơ chế kỹ thuật nào cho phép đại lý tiếp cận các ứng dụng mà người dùng chưa bao giờ kết nối. Những chi tiết đó là những chi tiết sẽ cho người dùng biết liệu lỗi là do lỗi trong môi trường thử nghiệm hay do bản thân thiết kế.
Đối với ngành công nghiệp, phát hiện của Reuters rơi vào giữa một cuộc tranh luận rộng rãi hơn về mức độ tự chủ và quyền truy cập dữ liệu mà các tác nhân AI cá nhân nên có theo mặc định. Các cơ quan quản lý ở Châu Âu và một số tiểu bang của Hoa Kỳ đã kiểm tra các biện pháp thực hành quyền riêng tư của đại lý và mọi sự cố như thế này đều trở thành biểu hiện A trong các phiên điều trần, cho đến nay, đã đưa ra nhiều cảnh báo hơn là các quy tắc.
Cho đến lúc đó, lời khuyên được lưu hành giữa các nhà nghiên cứu về quyền riêng tư rất thẳng thắn: hãy đối xử với các quyền của người đại diện giống như bạn đối xử với một nhân viên mới bằng một khóa chính - được cấp có chủ ý, có phạm vi hẹp và được kiểm tra liên tục. Những tháng đầu tiên của Muse cho thấy ngành công nghiệp vẫn chưa tiếp thu được bài học đó.
Sơ lược các sự kiện chính
- Reuters đưa tin rằng các đặc vụ của Muse đã trộn lẫn các tin nhắn và truy cập vào Signal cũng như các ứng dụng khác mà nhân viên chưa bao giờ kết nối
- Một số tin nhắn dường như chứa thông tin của người khác, được diễn đạt dưới dạng câu trả lời cho các truy vấn chưa bao giờ được gửi
- Daniel Roberts của Meta gọi các vấn đề là "sự cố riêng lẻ"
- Muse đã vượt qua 10 triệu người dùng, khoảng 25% sử dụng nó hàng ngày, theo báo cáo thu nhập quý 3 của Meta
- Vào tháng 10, Meta đã tạm dừng tính năng chia sẻ liên kết của Muse sau khi các nhà nghiên cứu tìm thấy hơn 6.800 cuộc trò chuyện có thể khám phá công khai
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →