黑客新闻 (Hacker News) 的一篇文章记录了 Google 的 Gemini 如何利用订阅者聊天记录进行模型训练,本周获得了 650 多个点赞——并不是因为该政策是秘密的,而是因为许多付费用户从未注意到它。该帖子的标题是“告诉 HN:Gemini 会根据聊天记录进行训练,即使对于订阅者(个人帐户)也是如此”,该帖子列出了 Google 自己的支持文档,表明付费订阅并不能免除任何人的训练使用。
相关行为并未隐藏在最终用户许可协议中。 AI Buzz Wire 直接查看了 Google 的 Gemini 帮助页面,对此进行了描述。 更多相关背景,请参阅我们的人工智能资讯。
Google 文档的实际内容
谷歌的 Gemini Apps 隐私帮助页面指出,Gemini Apps Activity(保存的聊天记录)“用于改善每个人的 Google 服务,包括在您的“保持活动”设置打开的情况下,通过训练生成人工智能模型。”这句话表达了问题的核心:对用户对话的训练是启用聊天记录的默认结果,无论该帐户是否为 Google AI Pro 或 Ultra 付费。
同一份文件也明确提到了人类的参与。谷歌表示,聊天的“子集”由人工审核员(包括来自服务提供商的经过培训的审核员)审核,以调试服务、保证服务安全并改进服务。该指南还包括一条许多用户从未见过的警告:“请不要输入您不希望审阅者看到或 Google 用来改进我们的服务(包括机器学习技术)的机密信息。”
已审核的聊天记录最多保留三年
保留规则超出了大多数用户的预期。根据谷歌的帮助页面,由人工审核员审核的聊天记录以及语言、设备类型、位置信息和反馈等相关数据“当您删除活动时不会被删除。相反,它们最多会保留三年。”谷歌表示,经过审查的数据在保存之前会与用户的帐户断开连接,但在用户按下删除键后很长一段时间内,对话本身仍会保留在谷歌的系统上。
谷歌表示,在此过程中将采取措施保护用户隐私,包括将经过审核的聊天记录与随机标识符而不是帐户相关联。尽管如此,该文档还是明确了界限:删除控制的是您的活动源中显示的内容,而不是谷歌从人工审核员已经拉取进行评估的聊天中保留的内容。
如何实际选择退出
选择退出是存在的,但这是一种交易。关闭“保持活动”设置会将您的聊天内容从训练中删除——Google 的页面确认训练仅在该设置打开时才适用。代价是功能:关闭“保持活动”后,聊天内容只会在您的帐户中保留 72 小时,并且 Google 仅使用最后 24 小时的聊天内容作为后续问题的上下文。临时聊天提供了类似的安排。
用户还可以将默认保留窗口从18个月缩短至3个月或36个月,或将其设置为无限期,并可以随时删除个别聊天记录。然而,当历史记录开启时,这些选择都不会改变训练策略——并且当历史记录被禁用时,72 小时时钟会从每次对话开始。
付费并不意味着私密
《黑客新闻》上的反应集中在一个被打破的假设上:支付人工智能订阅费用会改变数据排列。在消费软件中,这种假设长期以来一直是站不住脚的——但双子座的案例值得注意,因为培训管道适用于跨付费层的个人帐户,而且因为评论的聊天保留是以年而不是月来衡量的。
值得注意的是谷歌没有做什么。该公司表示,Gemini 不会直接在 Gmail 收件箱、云端硬盘、联系人、日历或其他工作区内容上训练生成式 AI 模型,这些数据需要通过 Connected Apps 进行显式连接,然后这些应用程序将受到自己的培训和人工审核政策的约束。 Workspace 和企业帐户的运行条款与消费类 Gemini 应用程序不同,谷歌在之前的隐私争议中也做出了区分。
更广泛的信任问题
对于谷歌来说,时机很尴尬。该公司正在努力赢得消费者的信任——将诈骗检测引入 Android 消息和通话,并在其硬件上营销隐私保护。与此同时,其最常用的人工智能产品对人们在聊天框中输入的随意、不受保护的内容进行训练,人类审阅者能够阅读其中的子集,并将审阅的子集保留长达三年。
隐私研究人员长期以来一直建议人们默认将聊天机器人对话视为半公开。本周的主题为 Gemini 的付费用户提供了具体的建议:默认情况下,保护对话的设置处于关闭状态,而训练对话的设置则处于开启状态,而唯一完全有效的逃生通道(临时聊天或禁用的历史记录)是以产品内存为代价的。
谷歌的文档没有被隐藏,并且其中没有任何内容是错误的。摩擦在于,阅读它是用户的工作——而且,正如数百条赞同的评论所表明的那样,大多数用户只是简单地认为他们的订阅费正在为他们做这项工作。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →