Un article de Hacker News documentant comment Gemini de Google utilise l'historique des discussions des abonnés pour la formation des modèles a attiré plus de 650 votes positifs cette semaine – non pas parce que la politique était secrète, mais parce que de nombreux utilisateurs payants ne l'avaient jamais remarqué. Le fil de discussion, intitulé "Dites à HN : Gemini s'entraîne sur l'historique des discussions, même pour les abonnés (comptes personnels)", présente la propre documentation d'assistance de Google montrant qu'un abonnement payant n'exonère personne de l'utilisation de la formation.

Le comportement concerné n'est pas enfoui dans un contrat de licence d'utilisateur final. Il est décrit dans les pages d'aide Gemini de Google, que AI Buzz Wire a examinées directement. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

Ce que dit réellement la documentation de Google

La page d'aide sur la confidentialité des applications Gemini de Google indique que l'activité des applications Gemini (historique des discussions enregistré) "est utilisée pour améliorer les services Google pour tout le monde, y compris en formant des modèles d'IA génératifs, si votre paramètre Conserver l'activité est activé". Cette seule phrase porte le cœur du problème : la formation sur les conversations des utilisateurs est le résultat par défaut de l'activation de l'historique des discussions, que le compte paie pour Google AI Pro ou Ultra.

La même documentation est explicite sur l’implication humaine. Google déclare qu'« un sous-ensemble » de discussions est examiné par des évaluateurs humains, y compris des évaluateurs formés par des fournisseurs de services, pour déboguer les services, les assurer en toute sécurité et les améliorer. Et les conseils incluent un avertissement que de nombreux utilisateurs ne voient jamais : "Veuillez ne pas saisir d'informations confidentielles que vous ne voudriez pas qu'un évaluateur voie ou que Google utilise pour améliorer nos services, y compris les technologies d'apprentissage automatique."

Les discussions examinées sont conservées jusqu'à trois ans

Les règles de conservation vont plus loin que ce que la plupart des utilisateurs attendent. Selon les pages d'aide de Google, les discussions examinées par des évaluateurs humains - ainsi que les données associées telles que la langue, le type d'appareil, les informations de localisation et les commentaires - "ne sont pas supprimées lorsque vous supprimez votre activité. Au lieu de cela, elles sont conservées jusqu'à trois ans". Google affirme que les données examinées sont déconnectées du compte de l'utilisateur avant d'être enregistrées, mais les conversations elles-mêmes persistent sur les systèmes de Google longtemps après que l'utilisateur a appuyé sur Supprimer.

Google affirme prendre des mesures pour protéger la confidentialité des utilisateurs dans ce processus, notamment en associant les discussions examinées à des identifiants aléatoires plutôt qu'à des comptes. Néanmoins, la documentation indique clairement les limites : la suppression contrôle ce qui apparaît dans votre flux d'activité, et non ce que Google conserve des discussions qu'un évaluateur humain a déjà extraites pour évaluation.

Comment se désinscrire

L'opt-out existe, mais c'est un échange. La désactivation du paramètre « Conserver l'activité » supprime vos discussions de l'utilisation de la formation : les pages de Google confirment que la formation s'applique uniquement lorsque ce paramètre est activé. Le coût réside dans la fonctionnalité : avec Keep Activity désactivé, les discussions sont conservées avec votre compte pendant seulement 72 heures et Google utilise uniquement les dernières 24 heures d'une discussion comme contexte pour les questions de suivi. Les discussions temporaires offrent un arrangement similaire.

Les utilisateurs peuvent également raccourcir la fenêtre de conservation par défaut de 18 mois à 3 mois ou 36 mois, ou la définir sur une durée indéfinie, et supprimer des discussions individuelles à tout moment. Cependant, aucun de ces choix ne modifie la politique de formation lorsque l'historique est activé - et l'horloge de 72 heures démarre pour chaque conversation au moment où l'historique est désactivé.

Payé ne veut pas dire privé

La réaction sur Hacker News s'est concentrée sur une hypothèse erronée : le fait de payer pour un abonnement à l'IA modifie la répartition des données. Dans le domaine des logiciels grand public, cette hypothèse a longtemps été fragile – mais le cas Gemini est remarquable parce que le pipeline de formation s’applique aux comptes personnels à travers les niveaux payants et parce que la rétention des discussions examinées se mesure en années plutôt qu’en mois.

Il convient de noter ce que Google ne fait pas. La société déclare que Gemini ne forme pas de modèles d'IA génératifs directement sur votre boîte de réception Gmail, Drive, Contacts, Calendrier ou tout autre contenu de votre espace de travail – ces données nécessitent une connexion explicite via des applications connectées, qui sont ensuite soumises à leurs propres politiques de formation et d'examen humain. Et les comptes Workspace et d'entreprise fonctionnent selon des conditions différentes de celles de l'application grand public Gemini, une distinction que Google a établie lors de controverses antérieures sur la confidentialité.

Le problème de la confiance au sens large

Le timing est délicat pour Google. L'entreprise rivalise avec la confiance des consommateurs en développant la détection des escroqueries dans les messages et appels Android et en commercialisant des protections de confidentialité sur son matériel. Pendant ce temps, son produit d'IA le plus utilisé s'entraîne sur les éléments occasionnels et non surveillés que les gens saisissent dans une boîte de discussion, les évaluateurs humains étant capables d'en lire un sous-ensemble et le sous-ensemble examiné étant conservé jusqu'à trois ans.

Les chercheurs en matière de confidentialité conseillent depuis longtemps que les gens traitent par défaut les conversations des chatbots comme semi-publiques. Le fil de discussion de cette semaine a rendu ce conseil concret pour les utilisateurs payants de Gemini : le paramètre qui protège vos conversations est désactivé par défaut, celui qui les entraîne est activé, et les seules trappes de secours pleinement efficaces - discussions temporaires ou historique désactivé - se font au prix de la mémoire du produit.

La documentation de Google n'est pas cachée et rien n'y est faux. Le problème est que sa lecture est le travail de l'utilisateur – et, comme le suggèrent des centaines de commentaires positifs, la plupart des utilisateurs avaient simplement supposé que leurs frais d'abonnement faisaient ce travail à leur place.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →