Ett Hacker News-inlägg som dokumenterar hur Googles Gemini använder prenumerationschatthistorik för modellträning fick mer än 650 uppröstningar den här veckan - inte för att policyn var hemlig, utan för att så många betalande användare aldrig hade märkt det. Tråden, med titeln "Berätta för HN: Gemini tränar på chatthistorik, även för prenumeranter (personliga konton)," beskriver Googles egen supportdokumentation som visar att en betalprenumeration inte fritar någon från träningsanvändning.
Det relevanta beteendet är inte begravt i ett slutanvändarlicensavtal. Det beskrivs på Googles hjälpsidor för Gemini, som AI Buzz Wire granskade direkt. For more context on this story, see our ongoing latest AI developments.
Vad Googles dokumentation faktiskt säger
Googles sida för Sekretesshjälp för Gemini Apps säger att Gemini Apps Activity – sparad chatthistorik – "används för att förbättra Googles tjänster för alla, inklusive genom att träna generativa AI-modeller, om din Keep Activity-inställning är på." Den enda meningen bär kärnan i problemet: träning i användarkonversationer är standardresultatet av att ha chatthistorik aktiverad, oavsett om kontot betalar för Google AI Pro eller Ultra.
Samma dokumentation är explicit om mänskligt engagemang. Google uppger att "en delmängd" av chattar granskas av mänskliga granskare, inklusive utbildade granskare från tjänsteleverantörer, för att felsöka tjänster, hålla dem säkra och förbättra dem. Och vägledningen innehåller en varning som många användare aldrig ser: "Vänligen ange inte konfidentiell information som du inte vill att en granskare ska se eller att Google ska använda för att förbättra våra tjänster, inklusive maskininlärningsteknik."
Recenserade chattar sparas i upp till tre år
Lagringsreglerna går längre än de flesta användare förväntar sig. Enligt Googles hjälpsidor raderas inte chattar som granskas av mänskliga granskare – tillsammans med relaterad data som språk, enhetstyp, platsinformation och feedback – "inte när du tar bort din aktivitet. Istället sparas de i upp till tre år." Google säger att granskad data kopplas bort från användarens konto innan den sparas, men själva konversationerna kvarstår på Googles system långt efter att användaren har tryckt på radera.
Google säger att de vidtar åtgärder för att skydda användarnas integritet i denna process, inklusive att associera granskade chattar med slumpmässiga identifierare snarare än konton. Ändå gör dokumentationen gränsen tydlig: radering styr vad som visas i ditt aktivitetsflöde, inte vad Google sparar från chattar som en mänsklig granskare redan har dragit för utvärdering.
Hur man faktiskt väljer bort
Opt-out finns, men det är en handel. Om du stänger av inställningen "Behåll aktivitet" tas dina chattar bort från träningsanvändning – Googles sidor bekräftar att träning endast gäller när den inställningen är på. Kostnaden är funktionalitet: med Behåll aktivitet avstängd behålls chattar med ditt konto i endast 72 timmar, och Google använder bara de sista 24 timmarna av en chatt som sammanhang för uppföljningsfrågor. Tillfälliga chattar erbjuder ett liknande arrangemang.
Användare kan också förkorta den förinställda lagringsperioden från 18 månader till 3 månader eller 36 månader, eller ställa in den på obestämd tid, och kan ta bort enskilda chattar när som helst. Inget av dessa val ändrar dock träningspolicyn medan historiken är på - och 72-timmarsklockan startar vid varje konversation i samma ögonblick som historiken inaktiveras.
Betalt betyder inte privat
Reaktionen på Hacker News kretsade kring ett brutet antagande: att betala för en AI-prenumeration förändrar dataarrangemanget. I konsumentprogramvara har det antagandet länge varit skakigt - men Gemini-fallet är anmärkningsvärt eftersom utbildningspipelinen gäller personliga konton över betalda nivåer och eftersom lagringen av granskade chattar mäts i år snarare än månader.
Det är värt att notera vad Google inte gör. Företaget uppger att Gemini inte tränar generativa AI-modeller direkt på din Gmail-inkorg, Drive, Contacts, Calendar eller annat Workspace-innehåll - att data kräver explicit anslutning via Connected Apps, som sedan är föremål för deras egna utbildnings- och mänskliga granskningspolicyer. Och Workspace och företagskonton fungerar under andra villkor än konsumentappen Gemini, en skillnad som Google har gjort i tidigare integritetskontroverser.
Problemet med bredare förtroende
Tidpunkten är besvärlig för Google. Företaget tävlar hårt om konsumenternas förtroende - driver bedrägeriupptäckt i Android-meddelanden och samtal och marknadsför integritetsskydd på sin hårdvara. Samtidigt tränar dess mest använda AI-produkt på de tillfälliga, obevakade sakerna som folk skriver in i en chattruta, med mänskliga granskare som kan läsa en delmängd av dem och den granskade delmängden sparas i upp till tre år.
Sekretessforskare har länge rekommenderat att människor behandlar chatbotkonversationer som halvoffentliga som standard. Veckans tråd gjorde det rådet konkret för Tvillingarnas betalande användare: inställningen som skyddar dina konversationer är avstängd som standard, den som tränar på dem är på, och de enda fullt effektiva utrymningsluckorna – tillfälliga chattar eller inaktiverad historik – kommer till priset av produktens minne.
Googles dokumentation är inte dold, och ingenting i den är falsk. Friktionen är att det är användarens jobb att läsa det - och, som hundratals röstade kommentarer antyder, hade de flesta användare helt enkelt antagit att deras prenumerationsavgift gjorde det jobbet åt dem.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
