Een bericht van Hacker News waarin werd gedocumenteerd hoe Google's Gemini de chatgeschiedenis van abonnees gebruikt voor modeltraining, trok deze week meer dan 650 upvotes - niet omdat het beleid geheim was, maar omdat zoveel betalende gebruikers het nog nooit hadden opgemerkt. De thread, getiteld "Vertel HN: Gemini traint op chatgeschiedenis, zelfs voor abonnees (persoonlijke accounts)", legt Google's eigen ondersteuningsdocumentatie uit, waaruit blijkt dat een betaald abonnement niemand vrijstelt van trainingsgebruik.

Het relevante gedrag ligt niet verborgen in een licentieovereenkomst voor eindgebruikers. Het wordt beschreven op de Gemini-helppagina's van Google, die AI Buzz Wire rechtstreeks heeft beoordeeld. Voor meer context over dit verhaal, zie ons AI-trends.

Wat de documentatie van Google eigenlijk zegt

Op de Gemini Apps Privacy Help-pagina van Google staat dat Gemini Apps Activity (opgeslagen chatgeschiedenis) "wordt gebruikt om de Google-services voor iedereen te verbeteren, onder meer door generatieve AI-modellen te trainen, als de instelling Activiteit behouden is ingeschakeld." Die ene zin bevat de kern van het probleem: training in gebruikersgesprekken is het standaardresultaat als de chatgeschiedenis is ingeschakeld, ongeacht of het account betaalt voor Google AI Pro of Ultra.

Dezelfde documentatie is expliciet over menselijke betrokkenheid. Google stelt dat “een subset” van de chats wordt beoordeeld door menselijke beoordelaars, inclusief getrainde beoordelaars van dienstverleners, om services te debuggen, veilig te houden en te verbeteren. En de richtlijnen bevatten een waarschuwing die veel gebruikers nooit te zien krijgen: "Voer alstublieft geen vertrouwelijke informatie in waarvan u niet wilt dat een recensent deze ziet of dat Google deze gebruikt om onze services, inclusief machine-learning-technologieën, te verbeteren."

Beoordeelde chats worden maximaal drie jaar bewaard

De bewaarregels gaan verder dan de meeste gebruikers verwachten. Volgens de helppagina's van Google worden chats die door menselijke reviewers zijn beoordeeld – samen met gerelateerde gegevens zoals taal, apparaattype, locatie-informatie en feedback – “niet verwijderd wanneer u uw activiteit verwijdert. In plaats daarvan worden ze maximaal drie jaar bewaard.” Google zegt dat de beoordeelde gegevens worden losgekoppeld van het account van de gebruiker voordat ze worden opgeslagen, maar dat de gesprekken zelf op de systemen van Google blijven bestaan ​​lang nadat de gebruiker op verwijderen heeft gedrukt.

Google zegt dat het stappen onderneemt om de privacy van gebruikers in dit proces te beschermen, inclusief het koppelen van beoordeelde chats aan willekeurige identificatiegegevens in plaats van aan accounts. Toch maakt de documentatie de grens duidelijk: verwijdering bepaalt wat er in uw activiteitenfeed verschijnt, niet wat Google achterhoudt uit chats die een menselijke recensent al ter evaluatie heeft opgehaald.

Hoe u zich daadwerkelijk kunt afmelden

De opt-out bestaat, maar het is een ruil. Als u de instelling 'Activiteit behouden' uitschakelt, worden uw chats verwijderd van trainingsgebruik. De pagina's van Google bevestigen dat training alleen van toepassing is als die instelling is ingeschakeld. De kosten zijn functionaliteit: als Activiteit behouden is uitgeschakeld, worden chats met uw account slechts 72 uur bewaard en gebruikt Google alleen de laatste 24 uur van een chat als context voor vervolgvragen. Tijdelijke chats bieden een soortgelijke regeling.

Gebruikers kunnen de standaard bewaarperiode ook verkorten van 18 maanden naar 3 maanden of 36 maanden, of deze instellen op onbepaalde tijd, en kunnen individuele chats op elk moment verwijderen. Geen van deze keuzes verandert echter het trainingsbeleid zolang de geschiedenis actief is – en de 72-uursklok begint bij elk gesprek zodra de geschiedenis is uitgeschakeld.

Betaald betekent niet privé

De reactie op Hacker News concentreerde zich op een gebroken veronderstelling: dat betalen voor een AI-abonnement de dataregeling verandert. Bij consumentensoftware is die veronderstelling lange tijd wankel geweest, maar de Gemini-zaak is opmerkelijk omdat de trainingspijplijn van toepassing is op persoonlijke accounts op betaalde niveaus, en omdat de retentie van beoordeelde chats wordt gemeten in jaren in plaats van in maanden.

Het is vermeldenswaard wat Google niet doet. Het bedrijf stelt dat Gemini generatieve AI-modellen niet rechtstreeks traint in uw Gmail-inbox, Drive, Contacten, Agenda of andere Workspace-inhoud - dat gegevens expliciete verbinding vereisen via Connected Apps, die vervolgens onderworpen zijn aan hun eigen training- en menselijke beoordelingsbeleid. En Workspace- en zakelijke accounts werken onder andere voorwaarden dan de Gemini-app voor consumenten, een onderscheid dat Google heeft gemaakt in eerdere privacycontroverses.

Het bredere vertrouwensprobleem

De timing is lastig voor Google. Het bedrijf concurreert hard op het vertrouwen van de consument door fraudedetectie in Android-berichten en -oproepen te pushen en privacybescherming op zijn hardware te promoten. Ondertussen traint het meest gebruikte AI-product op de informele, onbewaakte dingen die mensen in een chatbox typen, waarbij menselijke recensenten een subset ervan kunnen lezen en de beoordeelde subset maximaal drie jaar kan worden bewaard.

Privacyonderzoekers adviseren al lang dat mensen chatbotgesprekken standaard als semi-openbaar beschouwen. De draad van deze week maakte dat advies concreet voor de betalende gebruikers van Gemini: de instelling die je gesprekken beschermt, staat standaard uit, degene die erop traint staat aan, en de enige volledig effectieve ontsnappingsluiken – tijdelijke chats of uitgeschakelde geschiedenis – gaan ten koste van het geheugen van het product.

De documentatie van Google is niet verborgen en niets daarin is onwaar. Het probleem is dat het lezen ervan de taak van de gebruiker is – en, zoals honderden positieve reacties suggereren, hadden de meeste gebruikers er eenvoudigweg van uitgegaan dat hun abonnementsgeld dat werk voor hen deed.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →