O postare Hacker News care documentează modul în care Gemini de la Google utilizează istoricul chat-ului abonaților pentru formarea modelului a atras peste 650 de voturi pozitive în această săptămână – nu pentru că politica ar fi secretă, ci pentru că atât de mulți utilizatori plătitori nu au observat-o niciodată. Firul, intitulat „Spune-i lui HN: Gemeni se antrenează cu privire la istoricul chat-urilor, chiar și pentru abonați (conturi personale)”, prezintă documentația de asistență Google care arată că un abonament plătit nu scutește pe nimeni de la utilizarea instruirii.
Comportamentul relevant nu este îngropat într-un acord de licență pentru utilizatorul final. Este descris în paginile de ajutor Google Gemini, pe care AI Buzz Wire le-a revizuit direct. For more context on this story, see our ongoing artificial intelligence updates.
Ce spune de fapt documentația Google
Pagina Google Gemini Apps Ajutor pentru confidențialitate afirmă că Gemini Apps Activity — istoricul de chat salvat — „este folosită pentru a îmbunătăți serviciile Google pentru toată lumea, inclusiv prin antrenarea modelelor AI generative, dacă setarea Păstrați activitatea este activată”. Acea singură propoziție reprezintă miezul problemei: antrenamentul cu privire la conversațiile utilizatorilor este rezultatul implicit al activării istoricului de chat, indiferent dacă contul plătește pentru Google AI Pro sau Ultra.
Aceeași documentație este explicită despre implicarea umană. Google afirmă că „un subset” de chat-uri sunt examinate de recenzori umani, inclusiv de recenzori instruiți de la furnizorii de servicii, pentru a depana serviciile, a le păstra în siguranță și a le îmbunătăți. Și ghidul include un avertisment pe care mulți utilizatori nu îl văd niciodată: „Vă rugăm să nu introduceți informații confidențiale pe care nu ați dori ca un examinator să le vadă sau să le folosească Google pentru a ne îmbunătăți serviciile, inclusiv tehnologiile de învățare automată”.
Chaturile revizuite sunt păstrate până la trei ani
Regulile de păstrare merg mai departe decât se așteaptă majoritatea utilizatorilor. Conform paginilor de ajutor Google, chat-urile examinate de recenzenții umani – împreună cu datele conexe precum limba, tipul dispozitivului, informațiile despre locație și feedbackul – „nu sunt șterse atunci când ștergeți activitatea dvs., în schimb, sunt păstrate până la trei ani”. Google spune că datele revizuite sunt deconectate de la contul utilizatorului înainte de a fi salvate, dar conversațiile în sine persistă pe sistemele Google mult timp după ce utilizatorul a apăsat pe ștergere.
Google spune că ia măsuri pentru a proteja confidențialitatea utilizatorilor în acest proces, inclusiv asocierea chaturilor examinate cu identificatori aleatori, mai degrabă decât cu conturi. Totuși, documentația clarifică limitele: ștergerea controlează ceea ce apare în feedul de activitate, nu ceea ce Google păstrează din chat-urile pe care un recenzent uman le-a tras deja pentru evaluare.
Cum să renunți efectiv
Opt-out-ul există, dar este o tranzacție. Dezactivarea setarii „Păstrați activitatea” elimină chat-urile dvs. din utilizarea antrenamentului — paginile Google confirmă că antrenamentul se aplică numai atunci când acea setare este activată. Costul este funcționalitatea: cu Mențineți activitatea dezactivată, chaturile sunt păstrate în contul dvs. pentru doar 72 de ore, iar Google folosește doar ultimele 24 de ore ale unui chat ca context pentru întrebările ulterioare. Chaturile temporare oferă un aranjament similar.
De asemenea, utilizatorii pot scurta fereastra de reținere implicită de la 18 luni la 3 luni sau 36 de luni sau o pot seta pe nedefinit și pot șterge chaturile individuale în orice moment. Niciuna dintre aceste alegeri, însă, nu schimbă politica de antrenament în timp ce istoricul este activat – iar ceasul de 72 de ore începe la fiecare conversație în momentul în care istoricul este dezactivat.
Plătit nu înseamnă privat
Reacția de la Hacker News s-a centrat pe o presupunere ruptă: că plata pentru un abonament AI schimbă aranjamentul datelor. În software-ul de consum, această ipoteză a fost de mult șocantă – dar cazul Gemini este remarcabil deoarece canalul de instruire se aplică conturilor personale pe nivelurile plătite și pentru că retenția chaturilor revizuite este măsurată în ani și nu în luni.
Este demn de remarcat ce nu face Google. Compania afirmă că Gemini nu antrenează modele AI generative direct în căsuța dvs. de e-mail Gmail, Drive, Contacte, Calendar sau alt conținut Workspace - aceste date necesită o conexiune explicită prin aplicațiile conectate, care sunt apoi supuse propriilor politici de instruire și revizuire umană. Iar conturile Workspace și de întreprindere funcționează în condiții diferiți decât aplicația Gemini pentru consumatori, o distincție pe care Google a făcut-o în controversele anterioare privind confidențialitatea.
Problema mai largă a încrederii
Momentul este ciudat pentru Google. Compania concurează din greu în ceea ce privește încrederea consumatorilor - împingând detectarea înșelătoriei în mesajele și apelurile Android și promovarea protecției confidențialității pe hardware-ul său. Între timp, cel mai folosit produs AI al său se antrenează asupra lucrurilor obișnuite, nepăzite pe care oamenii le scriu într-o casetă de chat, cu recenzori umani capabili să citească un subset dintre ele și subsetul revizuit păstrat timp de până la trei ani.
Cercetătorii de confidențialitate au sfătuit de multă vreme că oamenii tratează conversațiile cu chatbot ca fiind semi-publice în mod implicit. Firul din această săptămână a făcut acel sfat concret pentru utilizatorii plătitori ai Gemeni: setarea care vă protejează conversațiile este dezactivată în mod implicit, cea care se antrenează pe ele este activată, iar singurele trape de evacuare complet eficiente - chaturi temporare sau istoric dezactivat - vin la prețul memoriei produsului.
Documentația Google nu este ascunsă și nimic din ea nu este fals. Frecarea este că citirea acestuia este treaba utilizatorului - și, așa cum sugerează sute de comentarii votate, majoritatea utilizatorilor au presupus pur și simplu că taxa de abonament făcea această muncă pentru ei.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
