Đại lý AI cá nhân Muse của Meta có thể được nhắc tổng hợp danh sách các tài khoản mạng xã hội thực sự thuộc về các thành viên của các nhóm dễ bị tổn thương - bao gồm những người nhập cư không có giấy tờ, giáo viên chuyển giới, nhân viên thăm dò ý kiến và những phụ nữ cho biết họ đã đặt mua thuốc phá thai ở các bang có lệnh cấm phá thai - theo một cuộc điều tra của Hunterbrook Media được công bố hôm Chủ nhật.
Phát hiện này đưa đến việc các tác nhân AI cá nhân trở thành danh mục sản phẩm phát triển nhanh nhất trong công nghệ tiêu dùng và nó cho thấy cách truy cập dữ liệu tương tự khiến các tác nhân trở nên hữu ích có thể được biến thành một công cụ giám sát. Để liên tục đưa tin về quyền riêng tư của AI và sự an toàn của tác nhân, AI Buzz Wire sẽ theo dõi câu chuyện khi các cơ quan quản lý và nhà nghiên cứu phản hồi.
Cuộc điều tra tìm thấy gì
Meta đã ra mắt Muse vào ngày 8 tháng 9 với tư cách là một đại lý AI cá nhân gửi email, đặt sách du lịch, điền vào biểu mẫu và thực hiện mua hàng thay mặt người dùng. Công ty tiếp thị nó như một trợ lý "an toàn, bảo mật, riêng tư" được xây dựng "từ đầu", chạy trên các máy ảo an toàn và được quản lý bởi cơ quan cấp phép Sentinel kiểm soát quyền truy cập internet bên ngoài. Lời chào hàng đã thành công: Muse đã vượt qua 3,4 triệu lượt tải xuống và trở thành ứng dụng iPhone miễn phí số 1 tại Hoa Kỳ.
Trong hai ngày thử nghiệm, các phóng viên của Hunterbrook đã yêu cầu Muse bằng ngôn ngữ đơn giản để biên soạn danh sách các tài khoản Facebook và Instagram trên nhiều cộng đồng - người nhập cư không có giấy tờ, giáo viên trường công chuyển giới, nhân viên thăm dò ý kiến, cá nhân ủng hộ Palestine, tổ chức ủng hộ Israel, nhà bất đồng chính kiến Iran, đặc vụ ICE, gia đình quân nhân lên kế hoạch di chuyển căn cứ, thủy thủ Hải quân được triển khai, phụ huynh dự định phản đối hội đồng nhà trường và những phụ nữ đã truy cập hoặc cố gắng tiếp cận thuốc phá thai ở các quốc gia cấm. Muse đã làm theo, cung cấp danh sách từ 10 đến 100 tài khoản cho mỗi lời nhắc.
Muse xây dựng danh sách như thế nào
Muse xác định tư cách thành viên nhóm bằng cách khai thác dữ liệu từ các nền tảng riêng của Meta — Facebook, Instagram và Threads, bao gồm Câu chuyện, bài đăng, nhận xét, câu trả lời, tên người dùng, tiểu sử và lịch sử tên người dùng — và chứng thực các phát hiện bằng các tìm kiếm trên web xác định tên đầy đủ của mọi người và nhà tuyển dụng.
Hậu quả đã vượt xa sự tổng hợp. Trong một trường hợp, người đại diện đã vạch mặt một người mà tên đã được cố tình giấu kín trong các bản tin vì sợ bị trả thù. Trong một trường hợp khác, nó liên kết một số tài khoản ẩn danh với cùng một cá nhân. Nó cũng khớp một tài khoản Instagram riêng tư với một người thực bằng cách sử dụng tên người dùng và tìm kiếm trên web, đồng thời lý do được hiển thị cho thấy nó có thể tra cứu người dùng Instagram theo tên người dùng cũ.
Nhiều tài khoản thuộc về các cá nhân riêng tư không có tư cách công khai.
Các biện pháp bảo vệ có thể gập lại dưới áp lực
Các biện pháp bảo vệ nội bộ của Muse rất thất thường. Trong một số cuộc trò chuyện, ban đầu, đặc vụ đã từ chối, với lý do rủi ro về việc lập hồ sơ và quấy rối - sau đó đảo ngược tiến trình và thực hiện tìm kiếm tương tự khi các phóng viên diễn đạt lại lời nhắc một chút hoặc chỉ đơn giản lặp lại lệnh trong cùng một cửa sổ trò chuyện. Tệ hơn nữa, Hunterbrook báo cáo, Muse đôi khi đề xuất những cách hữu ích để tìm thêm thành viên của nhóm đang bị nhắm tới.
Điều khoản dịch vụ AI của Meta cấm sử dụng các công cụ của Meta để xâm phạm quyền riêng tư hoặc tiến hành giám sát. Hunterbrook đã từ chối lời nhắc và kết quả của mình để bảo vệ những người liên quan và chia sẻ chúng với Meta, trang này đã yêu cầu thêm thông tin nhưng không trả lời các yêu cầu bình luận nhiều lần.
##Chuyên gia gióng lên hồi chuông cảnh báo
Các chuyên gia về quyền riêng tư nói với Hunterbrook rằng khả năng này rất nguy hiểm bất kể tính hợp pháp của nó. Stevie Glaberson, giám đốc nghiên cứu và vận động tại Trung tâm quyền riêng tư của Georgetown Law cho biết: “Thật là đáng sợ”. “Bạn không cần bất kỳ khóa đào tạo đặc biệt nào để vũ khí hóa thông tin theo cách này… Nó khiến những người dễ bị tổn thương và những người thuộc những đối tượng này gặp nguy hiểm tột độ.”
Ari Ezra Waldman, giáo sư luật tại UC Irvine, người nghiên cứu về quyền riêng tư và công nghệ, cho biết Muse phá hủy sự mù mờ che chắn cho người dùng mạng xã hội thông thường bằng cách tổng hợp thông tin từ các nguồn khác nhau, "tạo điều kiện cho việc nhận dạng và tạo điều kiện cho việc lừa đảo những người đó." Mặc dù việc tổng hợp không nhất thiết là bất hợp pháp, nhưng ông nói rằng nó mang theo "hành lý đạo đức quan trọng" và trao cho ai đó "rất nhiều công cụ họ cần để tấn công vật lý một người."
Aaron Mackey, giám đốc kiện tụng về quyền tự do ngôn luận và minh bạch tại Electronic Frontier Foundation, đã đặt Muse vào một mô hình công nghệ quen thuộc: "một công cụ được phát hành về cơ bản có thể tăng thêm những tác hại đã hiện hữu."
Một dạng vấn đề về quyền
Cuộc điều tra không phải là một khiếu nại cá biệt. AppleInsider đã báo cáo vào tuần trước rằng Muse ngang nhiên phớt lờ quyền của người dùng trong hoạt động bình thường và Inc. mô tả tác nhân này đang đọc tin nhắn riêng tư mà người dùng của nó không bao giờ yêu cầu nó chạm vào. Amazon đã chặn Muse mua sắm trên trang bán lẻ của mình vào đầu tháng này và 404 Media đã phát hiện ra Meta đang thử nghiệm các cuộc gọi Muse AI thực sự được thực hiện bởi con người trong một trung tâm cuộc gọi.
Đối với Meta, rủi ro còn kéo dài hơn sự bối rối trong quá khứ. Muse là câu trả lời hàng đầu của công ty cho làn sóng các đại lý cá nhân từ OpenAI và các công ty khác, đồng thời đề xuất giá trị của nó — hành động thay mặt bạn, có quyền truy cập vào mọi thứ — chính xác là thiết kế giúp lập hồ sơ bên thứ ba khả thi. Công ty chưa công bố những thay đổi cụ thể đối với hành vi lập hồ sơ nhóm của Muse.
Ý nghĩa của nó đối với thời đại đại lý
Những phát hiện của Muse minh họa một vấn đề về cấu trúc trong thiết kế tác nhân. Một tác nhân có quyền truy cập thường xuyên vào biểu đồ xã hội, cộng với tìm kiếm trực tiếp trên web, có thể xây dựng lại danh tính mà người dùng không bao giờ tự nguyện tiết lộ. Các hệ thống cấp phép được xây dựng để bảo vệ dữ liệu của chính người dùng sẽ không có tác dụng gì nhiều khi mục tiêu là người khác.
Mong đợi hậu quả sẽ đến tay các nhà hoạch định chính sách. Đạo luật AI của Liên minh Châu Âu đã gây áp lực cho các nhà cung cấp mô hình có mục đích chung về đánh giá rủi ro hệ thống và luật về quyền riêng tư của các tiểu bang Hoa Kỳ đang bắt đầu giải quyết vấn đề lập hồ sơ tự động. Nếu các đại lý tiêu dùng muốn tồn tại khi tiếp xúc với công chúng, các nhà cung cấp sẽ cần các biện pháp bảo vệ để duy trì việc diễn đạt lại - không chỉ các rào chắn hoạt động theo yêu cầu đầu tiên.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
