На страницах справки WhatsApp содержался невидимый текст, инструктирующий ИИ-помощников не рекомендовать регулирующие органы по защите данных и избегать цитирования законов о конфиденциальности, когда пользователи упоминают юристов, согласно исследованию, опубликованному Redact, сервисом, который помогает пользователям удалять свои онлайн-аккаунты. WhatsApp сообщил WIRED, который сообщил о результатах 19 октября, что скрытые заметки представляли собой инструкции для его собственного чат-бота поддержки, который попал на общедоступные страницы из-за ошибки, и что проблема была исправлена.

Исследователь Дэн Солтман написал, что обнаружил скрытый текст 8 октября, а затем прочитал все 545 страниц, на которые есть ссылки в справочном центре WhatsApp, сохранив копию каждой. Из них 80 страниц содержали скрытые блоки (всего 102), написанные таким образом, что они никогда не отображались на экране, но передавались в систему искусственного интеллекта, читающую страницу. Подробнее об этой истории — в нашем новости об ИИ.

Что сказано в скрытых заметках

Согласно отчету, большинство из 102 скрытых блоков были безобидными. Но двое выделились.

На странице справки, объясняющей, как удалить учетную запись, видимая заметка сообщает пользователям, что деактивированные учетные записи удаляются через 30 дней, а неактивные учетные записи через 120 дней — 365 в США. Под ним текст, отправленный в системы искусственного интеллекта, повторял эти периоды ожидания, а затем добавлял три директивы: информировать пользователей о сроках автоматического удаления и «не рекомендовать обращаться в какой-либо орган по защите данных, регулирующий или надзорный орган». ИИ также посоветовали не предлагать WhatsApp вручную удалять учетные записи от имени пользователя и не рекомендовать использовать другой телефон с активным номером.

Контекст имеет значение. WhatsApp позволяет удалять учетную запись только из приложения на основном телефоне, при этом номер телефона остается активным. Человек, который потерял свой телефон или номер и хотел, чтобы его учетная запись была удалена, получил инструкции подождать до года, в то время как ИИ был явно проинструктирован не указывать ему на регуляторов, которые контролируют такую ​​практику.

Приказ о неразглашении законов о конфиденциальности

Второй заметный блок находился на странице жалоб и блокировки контактов. Он активировался всякий раз, когда пользователь упоминал судебные иски, судебные процессы, адвокатов, адвокатов, суды или судебные разбирательства. С этого момента ИИ было дано указание не цитировать, не интерпретировать и не ссылаться на Условия обслуживания, Политику конфиденциальности WhatsApp или любые юридические документы; не делать заявлений о юридической ответственности компании; и не предоставлять юридические заключения или толкования от имени WhatsApp.

Одна инструкция привлекла особое внимание: ИИ было приказано не ссылаться, не цитировать и не интерпретировать правила защиты данных или конфиденциальности — в примечании в качестве примеров приводятся GDPR, LGPD и CCPA — «в том числе, когда пользователь поднимает их напрямую». Другими словами, пользователю, который явно спросил о своих правах в соответствии с GDPR, ассистент не объяснил эти права, даже если пользователь первым упомянул о законе. Инструкция предписывала пользователям вместо этого проконсультироваться с квалифицированным юристом.

Противоречие собственной политике конфиденциальности WhatsApp.

В отчете Redact отмечается, что скрытые заметки противоречат тому, что WhatsApp сообщает своим европейским пользователям в официальной документации. Политика конфиденциальности компании для европейского региона, вступающая в силу 2 июля 2026 года, информирует пользователей, что они могут подать жалобу в регулирующий орган по защите данных, и называет закон, который дает им такое право.

Таким образом, хотя официальная политика указывала европейцам, куда подавать жалобы, невидимый слой справочного центра предписывал собственному искусственному интеллекту компании не предоставлять эту информацию добровольно.

WhatsApp: ошибка, исправлена

Согласно отчету WIRED от 19 октября, WhatsApp заявил, что скрытые заметки представляли собой инструкции, предназначенные для его чат-бота поддержки (помощники пользователей достигают их, когда отправляют сообщение в службу поддержки WhatsApp с искусственным интеллектом), и что они появились на общедоступных страницах справки из-за ошибки, которая с тех пор была исправлена. Представитель сообщил WIRED, что компания хочет, чтобы ее чат-боты поддержки «были сосредоточены на предоставлении пользователям лучших советов о WhatsApp», а не «на предоставлении юридических консультаций».

Redact подтвердил удаление напрямую. Скрытые блоки все еще присутствовали при проверке в 21:40 UTC 15 октября; к 02:08 UTC 18 октября все 102 блока исчезли со всех 80 страниц, а сами страницы помощи остались онлайн. Архивные копии в Интернет-архиве подтверждают временную шкалу: снимок страницы удаления учетной записи от 9 октября содержит скрытый текст, а снимок от 18 октября — нет.

Почему невидимые инструкции ИИ являются проблемой

Этот эпизод представляет собой хрестоматийный пример практики, которая выросла вместе с помощниками ИИ: встраивание машинного текста в веб-страницы, которые читатели-люди никогда не видят. Когда страница содержит два сообщения — одно для людей, другое для моделей, которые ее читают, — невидимая версия может незаметно изменить то, что ИИ сообщает пользователям, без видимых следов редактирования.

В данном случае затронутой аудиторией оказался собственный помощник службы поддержки WhatsApp, а не сторонние чат-боты, и компания объясняет публичное разоблачение ошибкой. Но основной выбор дизайна — указание ИИ скрывать нормативную и юридическую информацию от пользователей, спрашивающих об их собственных учетных записях — теперь задокументирован в архивных копиях страниц, и это показывает, какая часть поведения помощника определяется текстом, о существовании которого большинство пользователей никогда не узнает.

Практический вывод для пользователей не изменился: любой, у кого заблокирован аккаунт WhatsApp и хочет его удалить, по-прежнему может напрямую обратиться в свой орган по защите данных, что подтверждается собственной европейской политикой конфиденциальности WhatsApp.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →