Тепер Signal за замовчуванням блокує скріншоти в iOS 27 і не дозволяє помічникам зі штучним інтелектом на пристрої читати програму на Android, що є прямим заходом проти агентів штучного інтелекту, які Apple і Google вплели у свої мобільні операційні системи. Президент Signal Мередіт Уіттакер оголосила про зміни в дописі в блозі, опублікованому 20 листопада під назвою «Signal серйозно ставиться до захисту вашої конфіденційності», і не шкодувала слів про ставки: ШІ на рівні операційної системи, як вона написала, є «екзистенціальною загрозою для Signal і нашої здатності відповідально підтримувати нашу місію».

Цей крок, про який Reuters вперше повідомив як ексклюзив, є найгострішою ескалацією тихого конфлікту між виробниками додатків, які в першу чергу ставляться до конфіденційності, і платформами, від яких вони залежать, і ключовим моментом для всіх, хто стежить за [останніми розробками ШІ] (https://aibuzzwire.news) у споживчих технологіях. Програма для обміну зашифрованими повідомленнями від Signal давно обіцяла, що лише ви та ваш співрозмовник можете читати ваші повідомлення. Його аргумент полягає в тому, що агенти, вбудовані в iOS, Android і Windows, тепер порушують цю обіцянку ззовні, зчитуючи сам екран.

Який сигнал насправді блокує

Захисти відрізняються залежно від платформи, оскільки базові інструменти відрізняються. В iOS 27 Signal тепер за замовчуванням забороняє робити знімки екрана всередині програми. На Android програма автоматично вмикає параметр «Безпека екрана», коли виявляє, що помічник штучного інтелекту намагається отримати доступ до екрана. Уіттекер пояснив, що це був навмисний вибір дизайну, оскільки багато постачальників Android, окрім лінійки Google Pixel, не пропонують надійного способу виявити спробу скріншоту, коли скріншоти вимкнено. Замість того, щоб залишати користувачам знімки екрана, які таємничим чином перестають працювати, Signal націлюється на саму діяльність агента.

Користувачі, яким потрібна можливість робити знімки екрана, можуть вимкнути захист у налаштуваннях Signal. Компанія чітко говорить про компроміс: це може стати доступним як для ваших повідомлень, так і для повідомлень ваших контактів будь-яким агентам ШІ, які дивляться на екран, порушуючи гарантію конфіденційності, яку Signal поширює на кожного учасника розмови.

Прецедент відкликання

Це не перший випадок, коли Signal підводить лінію проти ШІ операційної системи. Минулого року додаток використовував той самий механізм блокування скріншотів, щоб не дозволити штучному інтелекту Microsoft Recall фіксувати повідомлення Signal у Windows 11 за замовчуванням. Згідно з власними технічними примітками Signal, Recall знімає екран кожні кілька секунд, витягує текст із цих скріншотів за допомогою оптичного розпізнавання символів і заповнює доступну для пошуку базу даних на пристрої — процес, який може відкривати та зберігати дані Signal необмежений час, включаючи зникаючі повідомлення, які мають зникнути.

Чому спрацьовують сигнали AI на рівні ОС

У дописі в блозі Віттакер формулює проблему структурно, а не як суперечку з окремою компанією. Google, Apple і Microsoft виробляють три домінуючі споживчі операційні системи — «океани, в яких Signal та інші програми повинні плавати», як вона каже, системи, які «диктують умови життя для екосистеми програм».

Проблема в тому, як працюють агенти. Щоб відповісти на запитання та виконати завдання, ШІ на рівні ОС сканує те, що є на екрані. Усе, що видно в Signal у цей момент — вміст повідомлення, особи контактів — фіксується та стає доступним для агента, потенційно потрапляючи в локальну базу даних або на віддалений сервер поза контролем Signal. Наскрізне шифрування компанії гарантує передачу повідомлення, а не його появу на екрані, який фотографує операційна система. Віттакер пише, що ці інтеграції «роблять його все більш ворожим до конфіденційності» для програм, що плавають у цьому середовищі.

Сигнал Gaps ще не може закритися

Сигнал відвертий, що ліки неповне. Багато дистрибутивів Android охоплюють нерівномірно. Крім того, блокування скріншотів не стосується того, що Віттакер називає «більш прихованими способами, якими агенти штучного інтелекту потенційно можуть отримати доступ до даних програми», наприклад, отримання вмісту, який уже зберігається у файловій системі пристрою.

Найяскравіша діра — macOS. Signal каже, що він взагалі не може надійно блокувати там знімки екрана, посилаючись на відсутність задокументованих API — Apple відмовилася від старіших підходів на користь рішень захисту екрану, які працюють лише для потокового медіа та захищеного DRM вмісту, який Віттакер описує як «мінне поле незрозумілих рішень, які ставлять під загрозу конфіденційність користувачів». Для користувачів macOS 27 єдина проміжна порада компанії полягає в тому, щоб вручну додати Signal до розділу Excluded Apps у System Settings > Siri, що зупиняє проактивний доступ Siri AI, але не знімки екрана.

Боротьба за документацію

В основі технічних заходів лежить скарга на непрозорість. У Signal кажуть, що витратили місяці часу розробників на проведення криміналістичних розслідувань на Android та iOS, щоб зрозуміти, що насправді відбувається, коли системи штучного інтелекту отримують доступ до даних додатків, оскільки Apple, Google і Microsoft надають мало документації про те, як працюють їхні агенти.

Компанія закликає трьох постачальників ОС надати дві речі: точні технічні специфікації, що описують, як агенти отримують доступ і обробляють дані, і прості інструменти, які дозволяють розробникам обмежити цей доступ. Він також позначає сторонніх агентів, таких як Meta's Muse, які, за його словами, використовують дозволи на доступність, надані під час налаштування — дозволи, «призначені для розширення можливостей реальних людей» — як «скелетний ключ» для доступу до даних AI. На даний момент у Signal кажуть, що Google і Apple співпрацюють з компанією щодо того, як ці системи повинні взаємодіяти з конфіденційними програмами, «обережно оптимістично».

Канарка у вугільній шахті

Оголошення негайно охопило висвітлення Reuters, CNET, Engadget, The Decoder і Fast Company, а також почалося на тлі ширшого вивчення звичок використання даних агентським штучним інтелектом. Журналісти раніше задокументували, як агент Muse від Meta отримував доступ до повідомлень Signal під час внутрішнього тестування співробітників і змішував розмови — епізод, який передвіщав ризик, проти якого тепер працює Signal.

Заключний аргумент Віттакера полягає в тому, що ця боротьба виходить далеко за межі однієї програми. «Сигнал — це канарка у вугільній шахті, — написала вона, — але це впливає на всю екосистему й має стимулювати кожного, хто дбає про ці фундаментальні права». Незалежно від того, чи запропонують Apple, Google і Microsoft реальні інструменти — чи документацію, яка лише пояснює, що їхні агенти вже роблять — це визначить, що означає конфіденційність на пристроях, які носять більшість людей.

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці. Слідкуйте за нашими оновленнями про штучний інтелект. Читати більше новин AI →.