Příspěvek Hacker News dokumentující, jak Gemini společnosti Google používá historii chatu předplatitelů pro školení modelů, získal tento týden více než 650 hlasů pro – ne proto, že by tato politika byla tajná, ale proto, že si toho tolik platících uživatelů nikdy nevšimlo. Vlákno s názvem „Tell HN: Gemini trénuje na historii chatu, a to i pro předplatitele (osobní účty),“ uvádí vlastní dokumentaci podpory společnosti Google, která ukazuje, že placené předplatné nikoho neosvobozuje od používání školení.
Relevantní chování není pohřbeno v licenční smlouvě s koncovým uživatelem. Je to popsáno na stránkách nápovědy Gemini společnosti Google, které AI Buzz Wire přímo zkontrolovala. For more context on this story, see our ongoing latest AI developments.
Co vlastně říká dokumentace Google
Na stránce nápovědy k ochraně osobních údajů Gemini Apps Google je uvedeno, že Gemini Apps Activity – uložená historie chatu – „se používá ke zlepšení služeb Google pro všechny, včetně školení generativních modelů umělé inteligence, pokud máte zapnuté nastavení Keep Activity“. Tato jediná věta nese jádro problému: školení o uživatelských konverzacích je výchozím výsledkem povolení historie chatu bez ohledu na to, zda účet platí za Google AI Pro nebo Ultra.
Stejná dokumentace je explicitní o lidském zapojení. Google uvádí, že „podmnožina“ chatů je kontrolována lidskými recenzenty, včetně vyškolených recenzentů od poskytovatelů služeb, aby ladili služby, udržovali je v bezpečí a zlepšovali je. A pokyny obsahují varování, které mnoho uživatelů nikdy neuvidí: „Nezadávejte důvěrné informace, které nechcete, aby recenzent viděl nebo aby je společnost Google nepoužila ke zlepšení našich služeb, včetně technologií strojového učení.“
recenzované chaty jsou uchovávány až tři roky
Pravidla uchovávání jdou dále, než většina uživatelů očekává. Podle stránek nápovědy společnosti Google se chaty zkontrolované lidskými recenzenty – spolu se souvisejícími daty, jako je jazyk, typ zařízení, informace o poloze a zpětná vazba – „nesmažou, když smažete svou aktivitu. Místo toho jsou uchovány po dobu až tří let.“ Google říká, že kontrolovaná data jsou před uložením odpojena od uživatelského účtu, ale samotné konverzace přetrvávají v systémech Google dlouho poté, co uživatel stiskl Delete.
Google říká, že v tomto procesu podniká kroky k ochraně soukromí uživatelů, včetně přiřazování zkontrolovaných chatů k náhodným identifikátorům, nikoli účtům. V dokumentaci je však hranice jasná: mazání řídí to, co se objeví ve vašem zdroji aktivity, nikoli to, co si Google uchovává z chatů, které si již lidský recenzent vybral k vyhodnocení.
Jak se skutečně odhlásit
Opt-out existuje, ale je to obchod. Vypnutím nastavení „Zachovat aktivitu“ odeberete vaše chaty z tréninku – stránky Google potvrzují, že školení platí pouze v případě, že je toto nastavení zapnuté. Cena je funkčnost: s vypnutou Keep Activity jsou chaty uchovány s vaším účtem pouze 72 hodin a Google používá pouze posledních 24 hodin chatu jako kontext pro doplňující otázky. Podobné uspořádání nabízejí dočasné chaty.
Uživatelé mohou také zkrátit výchozí okno pro uchování z 18 měsíců na 3 měsíce nebo 36 měsíců nebo jej nastavit na dobu neurčitou a jednotlivé chaty mohou kdykoli smazat. Žádná z těchto možností však nemění zásady školení, když je historie zapnutá – a 72hodinové hodiny začínají při každé konverzaci v okamžiku, kdy je historie deaktivována.
Placené neznamená soukromé
Reakce na Hacker News se soustředila na porušený předpoklad: že platba za předplatné AI mění uspořádání dat. U spotřebitelského softwaru byl tento předpoklad dlouho nejistý – ale případ Gemini je pozoruhodný, protože tréninkový kanál se vztahuje na osobní účty napříč placenými úrovněmi a protože udržení zkontrolovaných chatů se měří spíše v letech než v měsících.
Stojí za zmínku, co Google nedělá. Společnost uvádí, že Gemini netrénuje generativní modely umělé inteligence přímo ve vaší doručené poště Gmailu, Disku, Kontaktech, Kalendáři nebo jiném obsahu Workspace – tato data vyžadují explicitní připojení prostřednictvím Connected Apps, které pak podléhají jejich vlastním zásadám školení a kontroly lidmi. A Workspace a podnikové účty fungují za jiných podmínek než spotřebitelská aplikace Gemini, což je rozdíl, který Google vytvořil v předchozích sporech o soukromí.
Problém širší důvěry
Načasování je pro Google nepříjemné. Společnost tvrdě soutěží o důvěru spotřebitelů – prosazuje detekci podvodů do zpráv a hovorů pro Android a prodává ochranu soukromí na svém hardwaru. Mezitím jeho nejpoužívanější produkt umělé inteligence trénuje na neformálních, nestřežených věcech, které lidé zadávají do chatovacího pole, přičemž lidští recenzenti mohou číst podmnožinu z nich a recenzovanou podmnožinu uchovávat až tři roky.
Výzkumníci ochrany soukromí již dlouho doporučují, aby lidé ve výchozím nastavení považovali konverzace s chatboty za poloveřejné. Vlákno z tohoto týdne tuto radu pro platící uživatele Gemini upřesnilo: nastavení, které chrání vaše konverzace, je ve výchozím nastavení vypnuto, to, které na nich trénuje, je zapnuté a jediné plně účinné únikové poklopy – dočasné chaty nebo deaktivovaná historie – jsou za cenu paměti produktu.
Dokumentace Google není skrytá a nic v ní není falešné. Spor je v tom, že čtení je úkolem uživatele – a jak naznačují stovky hlasovaných komentářů, většina uživatelů jednoduše předpokládala, že to za ně dělá jejich předplatné.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
