Un post di Hacker News che documenta come Gemini di Google utilizza la cronologia chat degli abbonati per l'addestramento dei modelli ha raccolto più di 650 voti positivi questa settimana, non perché la politica fosse segreta, ma perché così tanti utenti paganti non se ne erano mai accorti. Il thread, intitolato "Tell HN: Gemini si allena sulla cronologia della chat, anche per gli abbonati (account personali)", espone la documentazione di supporto di Google che mostra che un abbonamento a pagamento non esonera nessuno dall'utilizzo della formazione.
Il comportamento rilevante non è sepolto in un contratto di licenza con l'utente finale. È descritto nelle pagine di aiuto di Google Gemini, che AI Buzz Wire ha esaminato direttamente. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Cosa dice effettivamente la documentazione di Google
La pagina della Guida sulla privacy di Gemini Apps di Google afferma che Gemini Apps Activity - la cronologia chat salvata - "viene utilizzata per migliorare i servizi Google per tutti, anche addestrando modelli di intelligenza artificiale generativa, se l'impostazione Mantieni attività è attiva". Questa singola frase racchiude il nocciolo della questione: la formazione sulle conversazioni degli utenti è il risultato predefinito dell'abilitazione della cronologia chat, indipendentemente dal fatto che l'account paghi per Google AI Pro o Ultra.
La stessa documentazione è esplicita riguardo al coinvolgimento umano. Google afferma che "un sottoinsieme" di chat viene esaminato da revisori umani, inclusi revisori qualificati di fornitori di servizi, per eseguire il debug dei servizi, mantenerli al sicuro e migliorarli. E la guida include un avviso che molti utenti non vedono mai: "Non inserire informazioni riservate che non vorresti che un revisore vedesse o che Google utilizzasse per migliorare i nostri servizi, comprese le tecnologie di apprendimento automatico".
Le chat recensite vengono conservate per un massimo di tre anni
Le regole di conservazione vanno oltre quanto si aspetta la maggior parte degli utenti. Secondo le pagine di aiuto di Google, le chat esaminate da revisori umani – insieme ai dati correlati come lingua, tipo di dispositivo, informazioni sulla posizione e feedback – “non vengono cancellate quando elimini la tua attività. Vengono invece conservate per un massimo di tre anni”. Google afferma che i dati esaminati vengono disconnessi dall'account dell'utente prima di essere salvati, ma le conversazioni stesse persistono sui sistemi di Google molto tempo dopo che l'utente ha premuto Elimina.
Google afferma di adottare misure per proteggere la privacy degli utenti in questo processo, inclusa l'associazione delle chat esaminate con identificatori casuali anziché con account. Tuttavia, la documentazione rende chiaro il confine: l'eliminazione controlla ciò che appare nel feed delle attività, non ciò che Google nasconde dalle chat che un revisore umano ha già selezionato per la valutazione.
Come rinunciare effettivamente
L’opt-out esiste, ma è un mestiere. La disattivazione dell'impostazione "Conserva attività" rimuove le tue chat dall'utilizzo della formazione: le pagine di Google confermano che la formazione si applica solo quando tale impostazione è attiva. Il costo è la funzionalità: con Mantieni attività disattivata, le chat vengono conservate con il tuo account solo per 72 ore e Google utilizza solo le ultime 24 ore di una chat come contesto per le domande di follow-up. Le chat temporanee offrono una soluzione simile.
Gli utenti possono anche ridurre il periodo di conservazione predefinito da 18 mesi a 3 mesi o 36 mesi oppure impostarlo su indefinito e possono eliminare singole chat in qualsiasi momento. Nessuna di queste scelte, tuttavia, modifica la politica di formazione mentre la cronologia è attiva e l'orologio di 72 ore si avvia su ogni conversazione nel momento in cui la cronologia viene disattivata.
Pagato non significa privato
La reazione su Hacker News si è incentrata su un presupposto fallito: che il pagamento di un abbonamento all’intelligenza artificiale modifichi la disposizione dei dati. Nel software consumer, questa ipotesi è stata a lungo traballante, ma il caso Gemini è degno di nota perché il percorso di formazione si applica agli account personali su livelli a pagamento e perché la fidelizzazione delle chat riviste viene misurata in anni anziché in mesi.
Vale la pena notare ciò che Google non sta facendo. L'azienda afferma che Gemini non addestra modelli di intelligenza artificiale generativa direttamente sulla posta in arrivo di Gmail, Drive, contatti, calendario o altri contenuti dell'area di lavoro: che i dati richiedono una connessione esplicita tramite le app connesse, che sono quindi soggette alle proprie politiche di formazione e revisione umana. Inoltre, gli account Workspace e aziendali operano in termini diversi rispetto all'app Gemini consumer, una distinzione che Google ha tracciato in precedenti controversie sulla privacy.
Il problema della fiducia più ampia
Il momento è scomodo per Google. L'azienda sta competendo duramente per conquistare la fiducia dei consumatori, spingendo il rilevamento delle truffe nei messaggi e nelle chiamate Android e commercializzando la protezione della privacy sul suo hardware. Nel frattempo, il suo prodotto di intelligenza artificiale più utilizzato si basa sulle cose casuali e incustodite che le persone digitano in una finestra di chat, con revisori umani in grado di leggerne un sottoinsieme e il sottoinsieme revisionato viene conservato per un massimo di tre anni.
I ricercatori sulla privacy consigliano da tempo che le persone trattino le conversazioni dei chatbot come semi-pubbliche per impostazione predefinita. Il thread di questa settimana ha reso concreto questo consiglio per gli utenti paganti di Gemini: l'impostazione che protegge le conversazioni è disattivata per impostazione predefinita, quella che le addestra è attiva e le uniche vie di fuga pienamente efficaci - chat temporanee o cronologia disabilitata - vengono a scapito della memoria del prodotto.
La documentazione di Google non è nascosta e nulla in essa è falso. Il problema è che leggerlo è compito dell'utente e, come suggeriscono centinaia di commenti positivi, la maggior parte degli utenti aveva semplicemente pensato che la quota di abbonamento facesse quel lavoro per loro.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
