Apple v tichosti přepsal jeden ze svých nejvýznamnějších závazků v oblasti ochrany osobních údajů. V systému iOS 27 může společnost ukládat úplné interakce uživatelů se Siri a diktáty – včetně samotných zvukových nahrávek – a používat je k trénování modelů umělé inteligence za Siri, jak poprvé uvedla německá technologická publikace Heise Online.
Tato změna ukončuje postoj, který Apple kategoricky prohlásil: že osobní uživatelská data nebudou nikdy použita k trénování jejích základních modelů AI. For more context on this story, see our ongoing latest AI developments.
Co říkají nové zásady
Aktualizovaný jazyk se objevuje v zásadách ochrany osobních údajů, které najdete ve finálním předběžném sestavení iOS 27, které bylo odesláno veřejnosti v pondělí 14. září. Podle těchto zásad může Apple „ukládat veškeré vaše interakce se Siri a funkci diktování, včetně zvukových dat a přepisů vašich zadaných a mluvených požadavků Siri, stejně jako odpovědí Siri“.
Apple zdůrazňuje, že data nejsou propojena s uživatelským účtem Apple, a uvádí, že „podniká kroky k zajištění toho, aby Apple neukládal ani nepoužíval osobní údaje“ – což je formulace, která sedí nešikovně vedle oprávnění, které popisuje. Některá shromážděná data mohou být zkontrolována tím, co tato politika nazývá pouze „kontrolním personálem“, přičemž zvukový materiál poslouchají výhradně zaměstnanci společnosti Apple.
Společnost zarámuje program jako opt-in. Když uživatelé aktivují Siri AI, zobrazí se dialogové okno s žádostí, aby pomohli vylepšit asistenta, a vývojáři s přístupem k kandidátovi na vydání hlásí možnost odmítnutí snadno přehlédnout: vizuálně nenápadné tlačítko „Nyní ne“ na obrazovce, které nelze úplně zrušit. Uživatelé, kteří se přihlásí, mohou volbu zvrátit později v části Nastavení a poté Analýza a vylepšení.
Tichá úprava podpisového slibu
Změně zásad předcházela ještě tišší úprava. Publikované pokyny společnosti Apple týkající se zodpovědné umělé inteligence dříve celou větou uvedly, že „vaše soukromá osobní data a interakce se nikdy nepoužívají k trénování našich základních modelů“. Definitivní konec této věty byl odstraněn a nahrazen upozorněním: "pokud se výslovně nerozhodnete pomoci je zlepšit."
Na revizi záleží nad rámec jejího znění, protože koliduje s architekturou, kterou Apple strávil dva roky marketingem. Private Cloud Compute, serverový systém za Siri AI a většinou funkcí Apple Intelligence, byl prodán se specifickým příslibem: cloudová AI, která zpracovává požadavky stejně soukromě jako model na zařízení, přičemž uživatelská data nejsou nikdy dlouhodobě uložena ani vystavena třetím stranám. Použití nahrávek Siri jako školicího materiálu – a poprvé v iOS 27, směrování některých požadavků Private Cloud Compute přes servery Google – se blíží k chování cloudových asistentů, proti kterým se Apple kdysi postavil.
Vždy naslouchající hardware zvyšuje sázky
Načasování je trapné z druhého důvodu. Vedle svých nejnovějších iPhonů představil Apple tento týden dva modely Apple Watch určené k nepřetržitému poslechu. Zařízení dokážou na požádání vytvořit přepis předchozích patnácti sekund konverzace a navíc denní „Siri Recap“ shrnující konverzace nositele – tato funkce podle Apple také běží na Private Cloud Compute.
Vždy zapnuté mikrofony napájející asistenta, který si nyní může uchovat interakce pro modelový trénink, je přesně ta kombinace, před kterou obhájci soukromí varovali, a přichází od společnosti, která postavila svůj moderní marketing na odmítání přesně toho.
Ozvěny skandálu Siri Grading 2019
Apple už tu byl. V roce 2019 společnost utrpěla nejškodlivější kontroverzi v oblasti ochrany osobních údajů, když dodavatelé zaměstnaní subdodavateli popsali svou práci hodnocením zvukových nahrávek Siri – úryvků, které často obsahovaly intimní rozhovory, lékařské informace a další osobní údaje, se kterými se zacházelo pod laxními kontrolami. Apple pozastavil program, omluvil se a později znovu zavedl kontrolu člověkem jako volitelnou funkci s přísnějšími ochrannými opatřeními.
Nová zásada obnovuje toto shromažďování dat s širším rozsahem – úplné interakce spíše než ukázkové zvukové klipy, přepisy spolu s nahrávkami a explicitní účel školení – a přitom se spoléhá na podobný mechanismus souhlasu, který mnoho uživatelů přejde bez přečtení.
Co se stane dál
Regulační orgány v Evropě a Spojených státech opakovaně zkoumaly, jak jsou prezentovány dialogy o souhlasu pro školení AI, a opt-in obrazovka s výrazným tlačítkem souhlasu a možností odmítnutí s nízkým kontrastem je druh designu, který přitahuje tuto kontrolu. Prozatím je postoj společnosti Apple takový, že data zůstávají uvnitř jeho vlastních systémů, jsou oddělena od uživatelských identit a jsou kontrolována pouze podle pravidel pouze pro zaměstnance.
Hlubší posun je strategický. Trénink konkurenčních modelů umělé inteligence vyžaduje obrovské objemy vysoce kvalitních konverzačních dat a Apple – který vstoupil do moderního závodu s umělou inteligencí později než jeho konkurenti – se zřejmě rozhodl, že jeho nejcennějším nevyužitým zdrojem jsou stovky milionů konverzací Siri, které se odehrávají každý den. Společnost, která kdysi učinila soukromí důvodem ke koupi iPhone, dospěla k závěru, že si již nemůže dovolit nechat tato data na stole. Zda uživatelé souhlasí s předáním, jedno tlačítko „Nyní ne“ po druhém určí, kolik z toho Apple dostane.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
