Сообщение Hacker News, в котором рассказывается, как Google Gemini использует историю чата подписчиков для обучения моделей, на этой неделе собрало более 650 голосов «за» — не потому, что политика была секретной, а потому, что многие платящие пользователи никогда этого не замечали. В теме под названием «Расскажите HN: Gemini тренируется на истории чатов, даже для подписчиков (личных аккаунтов)» представлена собственная документация поддержки Google, показывающая, что платная подписка не освобождает никого от использования обучения.
Соответствующее поведение не предусмотрено лицензионным соглашением с конечным пользователем. Это описано на страницах справки Google Gemini, которые непосредственно просматривал AI Buzz Wire. Подробнее об этой истории — в нашем последние разработки в ИИ.
Что на самом деле говорит документация Google
На странице справки по конфиденциальности Gemini Apps Google указано, что активность приложений Gemini — сохраненная история чата — «используется для улучшения сервисов Google для всех, в том числе путем обучения генеративных моделей искусственного интеллекта, если ваша настройка «Сохранить активность» включена». В этом единственном предложении заключена суть проблемы: обучение разговорам с пользователями является результатом по умолчанию включения истории чата, независимо от того, платит ли учетная запись за Google AI Pro или Ultra.
В той же документации прямо говорится об участии человека. Google заявляет, что «некоторая часть» чатов просматривается рецензентами-людьми, в том числе обученными рецензентами от поставщиков услуг, для отладки сервисов, обеспечения их безопасности и улучшения. И руководство включает предупреждение, которое многие пользователи никогда не видят: «Пожалуйста, не вводите конфиденциальную информацию, которую вы не хотели бы, чтобы рецензент видел или Google использовал для улучшения наших услуг, включая технологии машинного обучения».
Проверенные чаты хранятся до трех лет
Правила хранения идут дальше, чем ожидает большинство пользователей. Согласно страницам справки Google, чаты, проверенные рецензентами, а также связанные с ними данные, такие как язык, тип устройства, информация о местоположении и отзывы, «не удаляются, когда вы удаляете свои действия. Вместо этого они сохраняются до трех лет». Google утверждает, что проверенные данные отключаются от учетной записи пользователя перед сохранением, но сами разговоры сохраняются в системах Google еще долгое время после того, как пользователь нажал кнопку «Удалить».
Google заявляет, что принимает меры для защиты конфиденциальности пользователей в этом процессе, в том числе связывает проверенные чаты со случайными идентификаторами, а не с учетными записями. Тем не менее, в документации четко обозначена граница: удаление контролирует то, что отображается в вашей ленте активности, а не то, что Google сохраняет из чатов, которые человек-рецензент уже извлек для оценки.
Как на самом деле отказаться
Отказ существует, но это сделка. Отключение параметра «Сохранить активность» исключает использование ваших чатов для обучения — на страницах Google подтверждается, что обучение применяется только тогда, когда этот параметр включен. Платой за это является функциональность: если функция Keep Activity отключена, чаты сохраняются в вашей учетной записи всего 72 часа, а Google использует только последние 24 часа чата в качестве контекста для последующих вопросов. Временные чаты предлагают аналогичную схему.
Пользователи также могут сократить период хранения по умолчанию с 18 месяцев до 3 или 36 месяцев или установить его на неопределенный срок, а также могут удалять отдельные чаты в любое время. Однако ни один из этих вариантов не меняет политику обучения, пока история включена — и 72-часовые часы запускаются при каждом разговоре, когда история отключена.
Платный не значит частный
Реакция Hacker News основывалась на ошибочном предположении: оплата подписки на ИИ меняет структуру данных. В потребительском программном обеспечении это предположение долгое время было шатким, но случай Gemini примечателен тем, что конвейер обучения применяется к личным учетным записям всех платных уровней, а также потому, что удержание проверенных чатов измеряется годами, а не месяцами.
Стоит отметить, чего Google не делает. Компания заявляет, что Gemini не обучает генеративные модели искусственного интеллекта непосредственно в вашем почтовом ящике Gmail, на Диске, в контактах, календаре или другом содержимом Workspace — эти данные требуют явного подключения через подключенные приложения, которые затем подвергаются их собственным политикам обучения и проверки человеком. А учетные записи Workspace и Enterprise работают на других условиях, чем пользовательское приложение Gemini, и Google проводил это различие в предыдущих спорах о конфиденциальности.
Более широкая проблема доверия
Время выбрано неудачно для Google. Компания жестко конкурирует за доверие потребителей, внедряя функцию обнаружения мошенничества в сообщения и звонки Android, а также продвигая средства защиты конфиденциальности на своем оборудовании. Между тем, его наиболее используемый продукт искусственного интеллекта тренируется на случайных, незащищенных вещах, которые люди вводят в окно чата, при этом рецензенты-люди могут прочитать часть из них, а проверенная часть хранится до трех лет.
Исследователи конфиденциальности уже давно советуют людям по умолчанию относиться к разговорам с чат-ботами как к полупубличным. Тема на этой неделе конкретизировала этот совет для платящих пользователей Gemini: настройка, которая защищает ваши разговоры, по умолчанию отключена, та, которая обучает их, включена, и единственные полностью эффективные аварийные выходы — временные чаты или отключенная история — доступны за счет памяти продукта.
Документация Google не скрыта, и в ней нет ничего ложного. Проблема в том, что чтение — это работа пользователя, и, как показывают сотни комментариев, за которые проголосовали «за», большинство пользователей просто предполагали, что плата за подписку делает эту работу за них.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
