Apple тихо переписала одне зі своїх найвизначніших зобов’язань щодо конфіденційності. В iOS 27 компанія може зберігати повну взаємодію користувачів із Siri та диктуванням — включаючи самі аудіозаписи — і використовувати їх для навчання моделей штучного інтелекту, що стоять за Siri, як вперше повідомило німецьке технологічне видання Heise Online.
Ця зміна завершує позицію Apple, яку категорично заявила: особисті дані користувачів ніколи не будуть використовуватися для навчання її базових моделей ШІ. For more context on this story, see our ongoing AI trends.
Що говорить нова політика
Оновлена мова з’являється в політиці конфіденційності, яка міститься в остаточній попередній версії iOS 27, яка була представлена громадськості в понеділок, 14 вересня. Згідно з політикою, Apple може «зберігати всю вашу взаємодію з Siri та функцію диктування, включаючи аудіодані та стенограми ваших введених і голосових запитів Siri, а також відповіді Siri».
Apple наголошує, що дані не пов’язані з обліковим записом Apple користувача, і заявляє, що «вживає заходів для того, щоб особисті дані не зберігалися та не використовувалися Apple» — формулювання, яке незграбно стоїть поруч із описом дозволу. Деякі із зібраних даних можуть переглядатися тим, хто в політиці називається лише «перевіряючим персоналом», а аудіоматеріали прослуховують виключно співробітники Apple.
Компанія створює програму як опт-ін. Коли користувачі активують Siri AI, з’являється діалогове вікно з проханням допомогти покращити помічника, а розробники, які мають доступ до версії-кандидата, повідомляють, що опцію відмови легко пропустити: візуально непомітна кнопка «Не зараз» на екрані, яку неможливо повністю закрити. Користувачі, які погодилися, можуть скасувати свій вибір пізніше в розділі «Налаштування», потім «Аналіз та покращення».
Тихе редагування обіцянки підпису
Зміні політики передувало ще тихіше редагування. Раніше в опублікованих рекомендаціях Apple щодо відповідального штучного інтелекту говорилося повним реченням, що «ваші особисті дані та взаємодії ніколи не використовуються для навчання наших базових моделей». Остаточне закінчення цього речення було видалено та замінено застереженням: «якщо ви явно не вирішите допомогти їх покращити».
Редакція має значення не лише її формулювання, оскільки вона суперечить архітектурі, на маркетинг якої Apple витратила два роки. Private Cloud Compute, серверна система, що лежить в основі Siri AI і більшості функцій Apple Intelligence, була продана за конкретною обіцянкою: хмарний AI, який обробляє запити так само конфіденційно, як і модель на пристрої, при цьому дані користувачів ніколи не зберігаються довгостроково та не передаються третім сторонам. Використання записів Siri як навчального матеріалу — і, вперше в iOS 27, маршрутизація деяких запитів Private Cloud Compute через сервери Google — наближає поведінку до хмарних помічників, проти яких Apple колись позиціонувала себе.
Апаратне забезпечення, яке завжди слухає, підвищує ставки
Час незручний з другої причини. Крім своїх останніх iPhone, цього тижня Apple представила дві моделі Apple Watch, призначені для безперервного прослуховування. Пристрої можуть створювати розшифровку попередніх п’ятнадцяти секунд розмови на вимогу, а також щоденний «Siri Recap», у якому підсумовуються розмови користувача — функція, за словами Apple, також працює на Private Cloud Compute.
Постійно ввімкнені мікрофони, які живлять помічника, який тепер може підтримувати взаємодію для навчання моделі, — це саме та комбінація, про яку попереджали прихильники конфіденційності, і це приходить від компанії, яка побудувала свій сучасний маркетинг навколо відмови робити саме це.
Відлуння скандалу з оцінками Siri 2019 року
Apple була тут раніше. У 2019 році компанія постраждала від найбільшої суперечки щодо конфіденційності, коли підрядники, найняті субпідрядниками, описували свою роботу, оцінюючи аудіозаписи Siri — фрагменти, які часто містили інтимні розмови, медичну інформацію та інші особисті дані, що оброблялися під слабким контролем. Apple призупинила програму, вибачилася, а пізніше знову запровадила перевірку людьми як функцію з більш жорсткими гарантіями.
Нова політика відновлює збір даних у ширшому масштабі — повна взаємодія, а не вибіркові аудіокліпи, стенограми разом із записами та явна ціль навчання — водночас покладаючись на подібний механізм згоди, який багато користувачів натискатимуть, не читаючи.
Що станеться далі
Регулятори в Європі та Сполучених Штатах неодноразово перевіряли, як представлені діалогові вікна згоди для навчання штучному інтелекту, і екран включення з помітною кнопкою погодження та опцією відмови з низьким контрастом є тим типом дизайну, який привертає увагу. Наразі позиція Apple полягає в тому, що дані залишаються в її власних системах, відокремлюються від ідентифікаційних даних користувачів і переглядаються лише за правилами, призначеними лише для співробітників.
Глибший зсув є стратегічним. Навчання конкурентоспроможних моделей штучного інтелекту потребує величезних обсягів високоякісних розмовних даних, і Apple, яка вступила в гонку сучасного штучного інтелекту пізніше своїх конкурентів, схоже, вирішила, що її найціннішим невикористаним ресурсом є сотні мільйонів розмов Siri, які відбуваються щодня. Компанія, яка колись зробила конфіденційність причиною покупки iPhone, дійшла висновку, що більше не може дозволити собі залишати ці дані на столі. Від того, чи погодяться користувачі передати його, по одній кнопці «Не зараз», залежатиме, скільки цього отримає Apple.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
