Một bài đăng trên Hacker News ghi lại cách Gemini của Google sử dụng lịch sử trò chuyện của người đăng ký để đào tạo mô hình đã thu hút hơn 650 lượt tán thành trong tuần này - không phải vì chính sách này là bí mật mà vì rất nhiều người dùng trả tiền chưa bao giờ nhận thấy điều đó. Chủ đề có tiêu đề "Tell HN: Gemini đào tạo về lịch sử trò chuyện, ngay cả đối với người đăng ký (tài khoản cá nhân)", đưa ra tài liệu hỗ trợ của riêng Google cho thấy rằng đăng ký trả phí không miễn cho bất kỳ ai sử dụng đào tạo.
Hành vi liên quan không được chôn trong thỏa thuận cấp phép người dùng cuối. Nó được mô tả trong trang trợ giúp Gemini của Google, được AI Buzz Wire đánh giá trực tiếp. For more context on this story, see our ongoing AI trends.
Tài liệu của Google thực sự nói gì
Trang Trợ giúp về quyền riêng tư của ứng dụng Gemini của Google cho biết rằng Hoạt động của ứng dụng Gemini - lịch sử trò chuyện đã lưu - "được sử dụng để cải thiện các dịch vụ của Google cho mọi người, bao gồm cả việc đào tạo các mô hình AI tổng quát, nếu cài đặt Keep Hoạt động của bạn được bật." Câu duy nhất đó chứa đựng cốt lõi của vấn đề: đào tạo về các cuộc trò chuyện của người dùng là kết quả mặc định của việc bật lịch sử trò chuyện, bất kể tài khoản đó trả tiền cho Google AI Pro hay Ultra.
Tài liệu tương tự nêu rõ ràng về sự tham gia của con người. Google tuyên bố rằng "một tập hợp con" các cuộc trò chuyện được đánh giá bởi những người đánh giá là con người, bao gồm cả những người đánh giá đã được đào tạo từ các nhà cung cấp dịch vụ, để gỡ lỗi các dịch vụ, giữ an toàn và cải thiện chúng. Và hướng dẫn bao gồm một cảnh báo mà nhiều người dùng không bao giờ nhìn thấy: "Vui lòng không nhập thông tin bí mật mà bạn không muốn người đánh giá nhìn thấy hoặc Google sử dụng để cải thiện dịch vụ của chúng tôi, bao gồm cả công nghệ học máy".
Các cuộc trò chuyện được đánh giá được lưu giữ tối đa ba năm
Các quy tắc lưu giữ còn đi xa hơn hầu hết người dùng mong đợi. Theo trang trợ giúp của Google, các cuộc trò chuyện được người đánh giá xem xét — cùng với dữ liệu liên quan như ngôn ngữ, loại thiết bị, thông tin vị trí và phản hồi — "sẽ không bị xóa khi bạn xóa hoạt động của mình. Thay vào đó, chúng được lưu giữ tối đa ba năm." Google cho biết dữ liệu đã xem xét sẽ bị ngắt kết nối khỏi tài khoản của người dùng trước khi được lưu, nhưng bản thân các cuộc hội thoại vẫn tồn tại trên hệ thống của Google rất lâu sau khi người dùng nhấn xóa.
Google cho biết họ thực hiện các bước để bảo vệ quyền riêng tư của người dùng trong quá trình này, bao gồm cả việc liên kết các cuộc trò chuyện được đánh giá với số nhận dạng ngẫu nhiên thay vì tài khoản. Tuy nhiên, tài liệu nêu rõ ranh giới: việc xóa kiểm soát những gì xuất hiện trong nguồn cấp dữ liệu hoạt động của bạn, chứ không phải những gì Google giữ lại khỏi các cuộc trò chuyện mà người đánh giá đã lấy để đánh giá.
Làm thế nào để thực sự chọn không tham gia
Việc từ chối tồn tại, nhưng đó là một giao dịch. Việc tắt cài đặt "Giữ hoạt động" sẽ xóa các cuộc trò chuyện của bạn khỏi mục đích đào tạo - các trang của Google xác nhận rằng việc đào tạo chỉ áp dụng khi cài đặt đó được bật. Cái giá phải trả là chức năng: khi tắt Hoạt động, các cuộc trò chuyện chỉ được lưu giữ trong tài khoản của bạn trong 72 giờ và Google chỉ sử dụng 24 giờ cuối cùng của cuộc trò chuyện làm bối cảnh cho các câu hỏi tiếp theo. Trò chuyện tạm thời cung cấp một sự sắp xếp tương tự.
Người dùng cũng có thể rút ngắn thời hạn lưu giữ mặc định từ 18 tháng xuống còn 3 tháng hoặc 36 tháng hoặc đặt thành không thời hạn và có thể xóa từng cuộc trò chuyện bất kỳ lúc nào. Tuy nhiên, không có lựa chọn nào trong số đó thay đổi chính sách đào tạo khi lịch sử được bật — và đồng hồ 72 giờ bắt đầu trên mọi cuộc trò chuyện vào thời điểm lịch sử bị tắt.
Trả phí không có nghĩa là riêng tư
Phản ứng trên Hacker News tập trung vào một giả định đã bị phá vỡ: việc trả tiền đăng ký AI sẽ thay đổi cách sắp xếp dữ liệu. Trong phần mềm tiêu dùng, giả định đó từ lâu đã không ổn định - nhưng trường hợp của Gemini rất đáng chú ý vì quy trình đào tạo áp dụng cho các tài khoản cá nhân ở các cấp trả phí và vì khả năng lưu giữ các cuộc trò chuyện được xem xét được đo bằng năm thay vì tháng.
Điều đáng chú ý là Google không làm gì. Công ty tuyên bố rằng Gemini không đào tạo các mô hình AI tổng hợp trực tiếp trên hộp thư đến Gmail, Drive, Danh bạ, Lịch hoặc nội dung Workspace khác của bạn - dữ liệu đó yêu cầu kết nối rõ ràng thông qua Ứng dụng được kết nối, sau đó phải tuân theo chính sách đào tạo và đánh giá của con người. Và các tài khoản Workspace và doanh nghiệp hoạt động theo các điều khoản khác với ứng dụng Gemini dành cho người tiêu dùng, một điểm khác biệt mà Google đã đưa ra trong các tranh cãi về quyền riêng tư trước đây.
Vấn đề về niềm tin rộng hơn
Thời điểm này thật khó xử đối với Google. Công ty đang cạnh tranh gay gắt để giành lấy niềm tin của người tiêu dùng - đẩy mạnh tính năng phát hiện lừa đảo vào Tin nhắn và Cuộc gọi trên Android, đồng thời tiếp thị các biện pháp bảo vệ quyền riêng tư trên phần cứng của mình. Trong khi đó, sản phẩm AI được sử dụng nhiều nhất của họ huấn luyện những nội dung thông thường, không được bảo vệ mà mọi người nhập vào hộp trò chuyện, với những người đánh giá là con người có thể đọc một tập hợp con trong số đó và tập hợp con được đánh giá sẽ được lưu giữ trong tối đa ba năm.
Các nhà nghiên cứu về quyền riêng tư từ lâu đã khuyên mọi người mặc định coi các cuộc trò chuyện trên chatbot là bán công khai. Chủ đề của tuần này đã đưa ra lời khuyên cụ thể đó cho những người dùng trả tiền của Gemini: cài đặt bảo vệ các cuộc trò chuyện của bạn bị tắt theo mặc định, cài đặt đào tạo về chúng được bật và các lối thoát duy nhất có hiệu quả hoàn toàn - các cuộc trò chuyện tạm thời hoặc lịch sử bị vô hiệu hóa - phải trả giá bằng bộ nhớ của sản phẩm.
Tài liệu của Google không bị ẩn và không có gì sai trong đó. Vấn đề là việc đọc nó là công việc của người dùng — và, như hàng trăm bình luận được tán thành đề xuất, hầu hết người dùng chỉ đơn giản cho rằng phí đăng ký của họ đang làm công việc đó cho họ.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
