Apple незаметно переписала одно из своих самых важных обязательств по обеспечению конфиденциальности. В iOS 27 компания может хранить все действия пользователей с Siri и диктовки, включая сами аудиозаписи, и использовать их для обучения моделей искусственного интеллекта, лежащих в основе Siri, о чем впервые сообщило немецкое технологическое издание Heise Online.

Это изменение положило конец позиции, которую Apple категорически заявила: персональные данные пользователей никогда не будут использоваться для обучения базовых моделей искусственного интеллекта. Подробнее об этой истории — в нашем последние разработки в ИИ.

Что говорит новая политика

Обновленный язык появляется в политике конфиденциальности, содержащейся в финальной предварительной версии iOS 27, которая была выпущена для широкой публики в понедельник, 14 сентября. Согласно политике, Apple может «хранить все ваши взаимодействия с Siri и функцией диктовки, включая аудиоданные и расшифровки ваших напечатанных и устных запросов Siri, а также ответов Siri».

Apple подчеркивает, что данные не связаны с учетной записью Apple пользователя, и заявляет, что «принимает меры для обеспечения того, чтобы персональные данные не хранились и не использовались Apple» — формулировка, которая неудобно сочетается с разрешением, которое она описывает. Некоторые из собранных данных могут быть проверены тем, что в политике называется только «персоналом по проверке», при этом аудиоматериалы прослушиваются исключительно сотрудниками Apple.

Компания представляет программу как добровольную. Когда пользователи активируют Siri AI, в диалоговом окне им предлагается помочь улучшить помощника, а разработчики, имеющие доступ к версии-кандидату, сообщают, что опцию отклонения легко пропустить: визуально незаметная кнопка «Не сейчас» на экране, которую нельзя полностью закрыть. Пользователи, которые согласились, могут отменить свой выбор позже в разделе «Настройки», затем «Анализ и улучшения».

Тихое изменение подписанного обещания

Изменению политики предшествовало еще более тихое редактирование. В опубликованных Apple рекомендациях по ответственному ИИ ранее полным предложением говорилось, что «ваши личные данные и взаимодействия никогда не используются для обучения наших базовых моделей». Окончательное окончание этого предложения было удалено и заменено оговоркой: «если вы явно не решите помочь их улучшить».

Пересмотр имеет значение, выходящее за рамки его формулировки, поскольку он противоречит архитектуре, которую Apple потратила на маркетинг два года. Private Cloud Compute, серверная система, лежащая в основе Siri AI и большинства функций Apple Intelligence, была продана под конкретным обещанием: облачный ИИ, который обрабатывает запросы так же конфиденциально, как и модель на устройстве, при этом пользовательские данные никогда не хранятся в течение длительного времени и не предоставляются третьим лицам. Использование записей Siri в качестве учебного материала и, впервые в iOS 27, маршрутизация некоторых запросов к частным облачным вычислениям через серверы Google, приближает эти обещания к поведению облачных помощников, против которых Apple когда-то позиционировала себя.

Всегда слушающее оборудование повышает ставки

Выбор времени выбран неудачно по второй причине. Помимо последних iPhone, на этой неделе Apple представила две модели Apple Watch, предназначенные для непрерывного прослушивания музыки. Устройства могут по запросу создавать расшифровку предыдущих пятнадцати секунд разговора, а также ежедневный «Siri Recap», суммирующий разговоры пользователя — функция, по словам Apple, также работает в Private Cloud Compute.

Постоянно включенные микрофоны, кормящие помощника, который теперь может сохранять взаимодействие для обучения моделей, — это именно та комбинация, о которой предупреждают защитники конфиденциальности, и она исходит от компании, которая построила свой современный маркетинг на отказе делать именно это.

Отголоски скандала с оценками Siri в 2019 году

Apple уже была здесь раньше. В 2019 году компания столкнулась с самым разрушительным спором о конфиденциальности, когда подрядчики, нанятые субподрядчиками, рассказали о своей работе по оценке аудиозаписей Siri — фрагментов, которые часто содержали интимные разговоры, медицинскую информацию и другие личные данные, обрабатываемые под слабым контролем. Apple приостановила действие программы, извинилась, а затем вновь ввела проверку человеком в качестве дополнительной функции с более строгими мерами безопасности.

Новая политика возобновляет сбор данных в более широком масштабе — полные взаимодействия, а не выборочные аудиоклипы, расшифровки наряду с записями и явная цель обучения — при этом полагаясь на аналогичный механизм согласия, который многие пользователи пройдут, не читая.

Что будет дальше

Регулирующие органы в Европе и США неоднократно тщательно изучали, как представлены диалоги согласия на обучение ИИ, и экран согласия с заметной кнопкой согласия и малоконтрастной опцией отказа — это тот тип дизайна, который привлекает такое пристальное внимание. На данный момент позиция Apple заключается в том, что данные остаются внутри ее собственных систем, отделены от личности пользователей и проверяются только в соответствии с правилами, доступными только для сотрудников.

Более глубокий сдвиг носит стратегический характер. Для обучения конкурентоспособных моделей ИИ требуются огромные объемы высококачественных разговорных данных, и Apple, которая вступила в современную гонку ИИ позже своих конкурентов, похоже, решила, что ее самый ценный неиспользованный ресурс — это сотни миллионов разговоров с Siri, которые происходят каждый день. Компания, которая когда-то сделала конфиденциальность причиной покупки iPhone, пришла к выводу, что больше не может позволить себе оставлять эти данные в секрете. От того, согласятся ли пользователи передать его по одной кнопке «Не сейчас», будет зависеть, сколько из этого получит Apple.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →