Публікація Hacker News, яка документує, як Google Gemini використовує історію чату передплатників для навчання моделей, зібрала понад 650 голосів «за» цього тижня — не тому, що ця політика була секретною, а тому, що багато платних користувачів ніколи її не помічали. У темі під назвою «Tell HN: Gemini тренується з історією чату, навіть для передплатників (особистих облікових записів)» викладається власна документація підтримки Google, яка показує, що платна підписка не звільняє нікого від навчання.

Відповідна поведінка не закріплена в ліцензійній угоді кінцевого користувача. Це описано на довідкових сторінках Google Gemini, які безпосередньо перевірив AI Buzz Wire. For more context on this story, see our ongoing breaking AI news.

Що насправді говорить документація Google

На сторінці довідки Google щодо конфіденційності додатків Gemini Apps зазначено, що Gemini Apps Activity — збережена історія чату — «використовується для покращення служб Google для всіх, зокрема шляхом навчання генеративних моделей AI, якщо ваше налаштування Keep Activity увімкнено». У цьому єдиному реченні міститься суть проблеми: навчання бесідам користувачів є стандартним результатом увімкнення історії чату, незалежно від того, платить обліковий запис за Google AI Pro або Ultra.

Ця ж документація чітко говорить про участь людини. Google стверджує, що «підмножина» чатів переглядається спеціалістами, включаючи навчених експертів від постачальників послуг, щоб налагодити служби, забезпечити їх безпеку та покращити. І вказівки містять попередження, яке багато користувачів ніколи не бачать: «Будь ласка, не вводьте конфіденційну інформацію, яку ви б не хотіли бачити рецензенту або використовувати Google для покращення наших послуг, включаючи технології машинного навчання».

Переглянуті чати зберігаються до трьох років

Правила збереження йдуть далі, ніж очікує більшість користувачів. Згідно зі сторінками довідки Google, чати, перевірені експертами, разом із пов’язаними даними, такими як мова, тип пристрою, інформація про місцезнаходження та відгуки, «не видаляються, коли ви видаляєте свою активність. Натомість вони зберігаються протягом трьох років». Google каже, що перевірені дані від’єднуються від облікового запису користувача перед збереженням, але самі розмови зберігаються в системах Google ще довго після того, як користувач натиснув «Видалити».

Google каже, що вживає заходів для захисту конфіденційності користувачів у цьому процесі, зокрема пов’язує перевірені чати з випадковими ідентифікаторами, а не обліковими записами. Тим не менш, документація чітко визначає межу: видалення контролює те, що відображається у вашій стрічці активності, а не те, що Google зберігає з чатів, які рецензент уже забрав для оцінки.

Як насправді відмовитися

Відмова існує, але це торгівля. Якщо вимкнути налаштування «Зберігати активність», ваші чати не будуть використовуватися для навчання — сторінки Google підтверджують, що навчання застосовується лише тоді, коли це налаштування ввімкнено. Ціною є функціональність: якщо функцію Keep Activity вимкнено, чати зберігаються у вашому обліковому записі лише 72 години, а Google використовує лише останні 24 години чату як контекст для подальших запитань. Тимчасові чати пропонують подібну схему.

Користувачі також можуть скоротити вікно зберігання за замовчуванням з 18 місяців до 3 місяців або 36 місяців або встановити його на невизначений термін і можуть будь-коли видаляти окремі чати. Однак жоден із цих варіантів не змінює політику навчання, коли історію ввімкнено — і 72-годинний годинник починається для кожної розмови в момент вимкнення історії.

Платне – не означає приватне

Реакція на Hacker News була зосереджена на помилковому припущенні: оплата підписки на ШІ змінює розташування даних. Що стосується споживчого програмного забезпечення, це припущення вже давно є хитким, але випадок Gemini примітний, оскільки навчальний процес застосовується до особистих облікових записів на всіх платних рівнях, а також тому, що утримання перевірених чатів вимірюється роками, а не місяцями.

Варто зазначити, чого Google не робить. Компанія заявляє, що Gemini не навчає генеративних моделей ШІ безпосередньо на вашій папці «Вхідні» Gmail, Диску, Контактах, Календарі чи іншому вмісті Workspace — ці дані вимагають явного підключення через Connected Apps, які потім підпадають під власну політику навчання та перевірки людьми. А облікові записи Workspace і корпоративні облікові записи діють на умовах, відмінних від споживчого додатка Gemini. Ця відмінність була зроблена Google у попередніх суперечках щодо конфіденційності.

Більш широка проблема довіри

Час незручний для Google. Компанія жорстко бореться за довіру споживачів — просуває виявлення шахрайства в Android Messages and Calls і рекламує засоби захисту конфіденційності на своєму обладнанні. У той же час його найбільш використовуваний продукт штучного інтелекту тренується на випадкових, незахищених речах, які люди вводять у вікно чату, а рецензенти можуть читати їх підмножину, а перевірена підмножина зберігається до трьох років.

Дослідники конфіденційності давно радять, щоб люди за замовчуванням розглядали розмови чат-ботів як напівпублічні. Цього тижня ця порада була конкретна для платних користувачів Gemini: параметр, який захищає ваші розмови, вимкнено за замовчуванням, той, який тренується на них, увімкнено, а єдині повністю ефективні вихідні люки — тимчасові чати чи вимкнена історія — коштують пам’яті продукту.

Документація Google не прихована, і в ній немає нічого неправдивого. Проблема полягає в тому, що читати його є роботою користувача — і, як свідчать сотні коментарів, які отримали підтримку, більшість користувачів просто припускали, що їхня підписка виконує цю роботу за них.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →