Signal nyní ve výchozím nastavení na iOS 27 blokuje snímky obrazovky a omezuje asistenty umělé inteligence na zařízení ve čtení aplikace na Androidu, což je přímé protiopatření proti agentům umělé inteligence, které Apple a Google zapletly do svých mobilních operačních systémů. Prezidentka společnosti Signal Meredith Whittaker oznámila změnu v příspěvku na blogu zveřejněném 20. listopadu s názvem „Signal to myslí vážně s ochranou vašeho soukromí“ a nešetřila slovy o sázce: Umělá inteligence na úrovni operačního systému, napsala, je „existenční hrozbou pro Signal a naši schopnost zodpovědně prosazovat naši misi“.

Tento krok, o kterém poprvé informovala agentura Reuters jako o exkluzivitě, je dosud nejostřejší eskalací tichého konfliktu mezi tvůrci aplikací na prvním místě v soukromí a platformami, na kterých jsou závislí – a zásadním momentem pro každého, kdo sleduje nejnovější vývoj AI v oblasti spotřebitelských technologií. Šifrovaná aplikace pro zasílání zpráv Signal již dlouho slibuje, že vaše zprávy můžete číst pouze vy a osoba, se kterou mluvíte. Jejím argumentem je, že agenti zabudovaní do iOS, Androidu a Windows nyní porušují tento slib zvenčí čtením samotné obrazovky.

Jaký signál ve skutečnosti blokuje

Ochrany se liší podle platformy, protože se liší základní nástroje. V systému iOS 27 nyní Signal ve výchozím nastavení zabraňuje vytváření snímků obrazovky uvnitř aplikace. V systému Android aplikace automaticky aktivuje nastavení „Zabezpečení obrazovky“, když zjistí, že se k obrazovce pokouší přistupovat asistent AI – záměrná volba designu, vysvětlil Whittaker, protože mnoho prodejců Androidu mimo řadu Pixel společnosti Google nenabízí žádný spolehlivý způsob, jak detekovat pokus o snímek obrazovky, jakmile jsou snímky obrazovky zakázány. Namísto toho, aby uživatelům zanechával snímky obrazovky, které záhadně přestávají fungovat, se Signal zaměřuje na samotnou aktivitu agenta.

Uživatelé, kteří chtějí mít možnost pořizovat snímky obrazovky, mohou ochranu vypnout v nastavení Signalu. Společnost je ohledně kompromisu explicitní: pokud tak učiníte, může být vaše zprávy i zprávy vašich kontaktů vystaveny všem agentům AI, kteří sledují obrazovku, čímž se poruší záruka ochrany soukromí, kterou Signál platí pro každého účastníka konverzace.

Precedens odvolání

Není to poprvé, co Signal udělal čáru proti AI operačního systému. V loňském roce aplikace používala stejný mechanismus blokování snímků obrazovky, aby zabránila AI společnosti Microsoft Recall ve výchozím nastavení zachycovat zprávy Signal ve Windows 11. Podle vlastních technických poznámek Signalu, Recall zachytí obrazovku každých pár sekund, extrahuje text z těchto snímků pomocí optického rozpoznávání znaků a naplní prohledávatelnou databázi na zařízení – proces, který by mohl odhalit a uchovat data Signal na neurčito, včetně mizejících zpráv, které měly zmizet.

Proč poplachový signál AI na úrovni OS

V příspěvku na blogu Whittaker uvádí problém spíše strukturálně než jako spor s jakoukoli jednotlivou společností. Google, Apple a Microsoft produkují tři dominantní spotřebitelské operační systémy – „oceány, ve kterých musí Signal a další aplikace plavat“, jak říká, systémy, které „určují podmínky života pro aplikační ekosystém“.

Problém je v tom, jak agenti fungují. Aby umělá inteligence na úrovni operačního systému odpovídala na otázky a dokončila úkoly, skenuje, co je na obrazovce. Vše, co je v daném okamžiku viditelné v Signalu – obsah zprávy, identity kontaktů – je zachyceno a zpřístupněno agentovi, což může potenciálně přistát v místní databázi nebo na vzdáleném serveru mimo kontrolu Signalu. End-to-end šifrování společnosti zaručuje přenos zprávy, nikoli její zobrazení na obrazovce, kterou operační systém fotografuje. Whittaker píše, že tyto integrace „činí stále více nepřátelské soukromí“ pro aplikace, které v tomto prostředí plavou.

Signál mezery se zatím nemůže uzavřít

Je upřímný signál, že náprava není kompletní. Pokrytí je u mnoha distribucí Androidu nerovnoměrné. Blokování snímků obrazovky navíc neřeší to, co Whittaker nazývá „záludnějšími způsoby, jak by agenti AI mohli potenciálně přistupovat k datům aplikací“, jako je získávání obsahu již uloženého v souborovém systému zařízení.

Nejkřiklavější dírou je macOS. Signal říká, že tam vůbec nemůže spolehlivě blokovat snímky obrazovky s odkazem na nedostatek zdokumentovaných API – Apple zavrhl starší přístupy ve prospěch řešení na ochranu obrazovky, která fungují pouze pro streamovaná média a obsah chráněný DRM, což Whittaker popisuje jako „minové pole matoucích rozhodnutí, která ohrožují soukromí uživatelů“. Pro uživatele macOS 27 je jedinou prozatímní radou společnosti ručně přidat Signal do sekce Excluded Apps pod Nastavení systému > Siri, což zastaví proaktivní přístup Siri AI, ale ne snímky obrazovky.

Boj o dokumentaci

Základem technických opatření je stížnost na neprůhlednost. Signal říká, že strávil měsíce času vývojářů prováděním forenzních vyšetřování napříč Androidem a iOS, aby pochopil, co se vlastně stane, když systémy AI přistupují k datům aplikací – protože Apple, Google a Microsoft poskytují jen málo dokumentace o tom, jak jejich agenti fungují.

Společnost vyzývá tři dodavatele OS, aby dodali dvě věci: přesné technické specifikace popisující, jak agenti přistupují a zpracovávají data, a jednoduché nástroje, které vývojářům umožní tento přístup omezit. Označuje také agenty třetích stran, jako je Meta's Muse, o kterých říká, že využívají oprávnění pro přístupnost udělená během nastavování – oprávnění „je určena k posílení skutečných lidí“ – jako „základní klíč“ pro přístup k datům AI. Signal zatím říká, že je „opatrně optimistický“, že Google a Apple spolupracují se společností na tom, jak by tyto systémy měly být propojeny s aplikacemi citlivými na soukromí.

Kanáry v uhelném dole

Oznámení okamžitě pokryly agentury Reuters, CNET, Engadget, The Decoder a Fast Company a přistálo uprostřed širšího zkoumání datových návyků agentní AI. Reportéři již dříve zdokumentovali, jak agent Meta's Muse přistupoval ke zprávám Signal během interního testování zaměstnanců a směšování konverzací – epizoda, která přesně předznamenala riziko, proti kterému Signal nyní pracuje.

Whittakerovým závěrečným argumentem je, že tento boj přesahuje rámec jedné aplikace. "Signál je kanárek v uhelném dole," napsala, "ale to ovlivňuje celý ekosystém a mělo by to povzbudit každého, komu na těchto základních právech záleží." Ať už Apple, Google a Microsoft zareagují skutečnými nástroji – nebo dokumentací, která pouze vysvětluje, co jejich agenti již dělají – bude mít vliv na to, co znamená soukromí na zařízeních, která většina lidí nosí.

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě. Sledujte naše aktualizace o umělé inteligenci. Přečtěte si další zprávy o AI →.