Signal теперь по умолчанию блокирует снимки экрана на iOS 27 и запрещает ИИ-помощникам на устройствах читать приложение на Android, что является прямой контрмерой против ИИ-агентов, которые Apple и Google встроили в свои мобильные операционные системы. Президент Signal Мередит Уиттакер объявила об изменении в опубликованном 20 ноября сообщении в блоге под названием «Signal серьезно относится к защите вашей конфиденциальности» и не стала стесняться слов о ставках: ИИ на уровне операционной системы, написала она, «является экзистенциальной угрозой для Signal и нашей способности ответственно выполнять свою миссию».

Этот шаг, о котором агентство Reuters впервые сообщило как эксклюзив, является самой резкой эскалацией тихого конфликта между производителями приложений, ориентированных на конфиденциальность, и платформами, от которых они зависят, и поворотным моментом для всех, кто следит за последними разработками в области искусственного интеллекта в сфере потребительских технологий. Приложение для зашифрованного обмена сообщениями Signal уже давно обещает, что только вы и человек, с которым вы разговариваете, можете читать ваши сообщения. Ее аргумент заключается в том, что агенты, встроенные в iOS, Android и Windows, теперь нарушают это обещание извне, читая сам экран.

Какой сигнал на самом деле блокируется

Средства защиты различаются в зависимости от платформы, поскольку они различаются в базовых инструментах. В iOS 27 Signal теперь по умолчанию запрещает создание снимков экрана внутри приложения. На Android приложение автоматически включает настройку «Безопасность экрана», когда обнаруживает, что ИИ-помощник пытается получить доступ к экрану — это осознанный выбор дизайна, объяснил Уиттакер, поскольку многие поставщики Android, не входящие в линейку Google Pixel, не предлагают надежного способа обнаружения попытки создания скриншота, когда скриншоты отключены. Вместо того, чтобы оставлять пользователям скриншоты, которые загадочным образом перестают работать, Signal нацелен на саму активность агента.

Пользователи, которым нужна возможность делать снимки экрана, могут отключить защиту в настройках Signal. Компания открыто заявляет о компромиссе: это может привести к тому, что ваши сообщения и сообщения ваших контактов будут доступны любым агентам ИИ, наблюдающим за экраном, что нарушит гарантию конфиденциальности, которую Signal распространяется на каждого участника разговора.

Прецедент отзыва

Это не первый раз, когда Signal проводит черту против искусственного интеллекта операционной системы. В прошлом году приложение использовало тот же механизм блокировки снимков экрана, чтобы запретить Microsoft Recall AI перехватывать сообщения Signal в Windows 11 по умолчанию. Согласно собственным техническим примечаниям Signal, Recall делает снимки экрана каждые несколько секунд, извлекает текст из этих снимков экрана с помощью оптического распознавания символов и заполняет базу данных на устройстве с возможностью поиска — процесс, который может раскрывать и сохранять данные Signal на неопределенный срок, включая исчезающие сообщения, предназначенные для исчезновения.

Почему сигнал тревоги AI на уровне ОС

В своем блоге Уиттакер описывает проблему структурно, а не как спор с какой-либо отдельной компанией. Google, Apple и Microsoft производят три доминирующие потребительские операционные системы — «океаны, в которых должны плавать Signal и другие приложения», как она выразилась, системы, которые «диктуют условия жизни экосистемы приложений».

Проблема в том, как действуют агенты. Чтобы отвечать на вопросы и выполнять задачи, ИИ на уровне ОС сканирует то, что находится на экране. Все, что отображается в Signal в этот момент — содержимое сообщения, личности контактов — фиксируется и становится доступным агенту, потенциально попадая в локальную базу данных или на удаленный сервер вне контроля Signal. Сквозное шифрование компании гарантирует транспортировку сообщения, а не его появление на экране, который фотографирует операционная система. Уиттакер пишет, что эти интеграции «делают все более враждебным к конфиденциальности» приложений, плавающих в этой среде.

Сигнал гэпа еще не может закрыться

Откровенный сигнал о том, что лечение неполное. Охват неравномерен во многих дистрибутивах Android. Более того, блокировка снимков экрана не устраняет то, что Уиттакер называет «более хитрыми способами, с помощью которых агенты ИИ могут потенциально получить доступ к данным приложения», например, получение контента, уже хранящегося в файловой системе устройства.

Самая яркая дыра — macOS. Signal заявляет, что вообще не может надежно блокировать снимки экрана, ссылаясь на отсутствие документированных API — Apple отказалась от старых подходов в пользу решений для защиты экрана, которые работают только для потокового мультимедиа и контента, защищенного DRM, что Уиттакер описывает как «минное поле сбивающих с толку решений, которые ставят под угрозу конфиденциальность пользователей». Для пользователей macOS 27 единственный временный совет компании — вручную добавить Signal в раздел «Исключенные приложения» в разделе «Настройки системы» > Siri, что останавливает упреждающий доступ Siri AI, но не снимки экрана.

Борьба с документацией

В основе технических мер лежит недовольство непрозрачностью. Signal заявляет, что потратила месяцы времени разработчиков на проведение криминалистических исследований в Android и iOS, чтобы понять, что на самом деле происходит, когда системы искусственного интеллекта получают доступ к данным приложений, поскольку Apple, Google и Microsoft предоставляют мало документации о том, как работают их агенты.

Компания призывает трех поставщиков ОС предоставить две вещи: точные технические спецификации, описывающие, как агенты получают доступ к данным и обрабатывают их, а также простые инструменты, позволяющие разработчикам ограничивать этот доступ. Он также помечает сторонние агенты, такие как Meta’s Muse, которые, по его словам, используют разрешения на доступ, предоставленные во время установки — разрешения, «предназначенные для расширения возможностей реальных людей» — как «скелетный ключ» для доступа к данным ИИ. На данный момент Signal заявляет, что «осторожно оптимистично» относится к тому, что Google и Apple обсуждают с компанией вопрос о том, как эти системы должны взаимодействовать с приложениями, чувствительными к конфиденциальности.

Канарейка в угольной шахте

Это объявление сразу же привлекло внимание Reuters, CNET, Engadget, The Decoder и Fast Company, а также появилось на фоне более широкого изучения привычек агентского ИИ в отношении данных. Репортеры ранее документировали, что агент Muse компании Meta получал доступ к сообщениям Signal во время внутреннего тестирования сотрудников и смешивал разговоры — эпизод, который точно предвещал риск, против которого Signal сейчас разрабатывает.

Заключительный аргумент Уиттакера заключается в том, что эта борьба выходит далеко за рамки одного приложения. «Сигнал — это канарейка в угольной шахте», — написала она, — «но это влияет на всю экосистему и должно воодушевить каждого, кто заботится об этих фундаментальных правах». От того, ответят ли Apple, Google и Microsoft реальными инструментами или документацией, которая просто объясняет, что уже делают их агенты, будет зависеть, что означает конфиденциальность на устройствах, которые носит большинство людей.

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте. Следите за нашими обновлениями об искусственном интеллекте. Читать больше новостей об искусственном интеллекте →.