Apple ужесточает одно из самых мощных разрешений на Mac. В сообщении в блоге разработчиков компания заявила, что вводит новые элементы управления для настройки полного доступа к диску в macOS, предупредив, что некоторые разработчики используют это право способами, которые могут раскрыть всю систему пользователя, и что агенты ИИ делают этот уровень доступа гораздо более опасным.

Этот шаг, о котором сообщает TechCrunch, происходит в тот момент, когда настольные ИИ-помощники множатся и все чаще действуют от имени пользователей. Полный доступ к диску изначально был разработан для того, чтобы такие приложения, как программное обеспечение для резервного копирования, могли работать должным образом, но он предоставляет исключительные возможности: разрешение на чтение файлов пользователя, почты, сообщений и даже истории просмотров. Подробнее об этой истории — в нашем больше статей об ИИ.

«Некоторые разработчики используют полный доступ к диску способами, которые могут подвергнуть пользователей риску, раскрывая все, что есть в их системах… без полного знания и понимания пользователей», — заявила Apple в сообщении в блоге, адресованном разработчикам.

Почему Apple действует сейчас

Объявление было сделано через несколько дней после того, как обозреватель Inc. Джейсон Атен сообщил, что Muse, приложение на Mac с искусственным интеллектом, похоже, знает содержание его личных сообщений, хотя он сказал, что не давал агенту разрешения читать их. Компания Meta, которой принадлежит Muse, оспорила это утверждение, но в отчете подчеркивается, насколько доверяют пользователи настольному программному обеспечению искусственного интеллекта, которое может читать их файлы и управлять их системами.

Решение Apple также последовало за отчетом Wired, описывающим ошибку в приложении ChatGPT для Mac, которая могла позволить хакерам получить доступ к конфиденциальным данным с компьютеров пользователей. Ни один из инцидентов не связан с подтвержденным нарушением безопасности собственной платформы Apple, но вместе они иллюстрируют новую поверхность риска, которую создают агенты ИИ: программное обеспечение, которому предоставлен широкий доступ, работает непрерывно и действует с возрастающей автономностью, является гораздо более ценной целью — и гораздо большей ответственностью — чем традиционное приложение.

В случае Muse приложение AI дополнительно позволяет пользователям включать полный доступ к диску, что передает ему ключи к файлам, почте, сообщениям и истории просмотров одним переключателем. Эта модель — ИИ-помощник, запрашивающий как можно более широкое разрешение, чтобы он мог быть максимально полезным — это именно то, что Apple теперь хочет нарушить.

Какие изменения на Mac

В дальнейшем Apple заявляет, что представит новые элементы управления, чтобы гарантировать, что пользователи, которые действительно хотят предоставить приложению такой исключительный уровень доступа, смогут сделать это только при очень явных действиях пользователя. На практике это означает меньшее количество диалоговых окон согласия в один клик, скрытых в процессах установки, и более продуманный и информированный процесс, прежде чем приложение сможет увидеть все на Mac.

«Решение этой проблемы имеет решающее значение», — написала Apple. «Поскольку ИИ-агенты становятся все более способными и автономными, риски, связанные с этим уровнем доступа, будут существенно возрастать. Мы стремимся обеспечить, чтобы пользователи четко понимали эти риски, прежде чем предоставлять такой доступ, чтобы они могли принимать обоснованные решения относительно своих собственных данных и конфиденциальности».

Apple не ответила на запрос TechCrunch об изменении функции, и компания не уточнила, когда именно появятся новые элементы управления или как они появятся в macOS. Разработчики, которые полагаются на полный доступ к диску в законных целях (инструменты резервного копирования, программное обеспечение безопасности и утилиты автоматизации), будут внимательно следить за тем, не создаст ли более строгий поток согласия проблем для их пользователей.

Сигнал наступления эры настольного искусственного интеллекта

Сдвиг в политике отражает более широкое понимание в индустрии ИИ вопросов разрешений агентов. Агенты ИИ, работающие на рабочем столе пользователя, могут создавать документы, перемещать файлы, отправлять сообщения и просматривать веб-страницы — возможности, которые полезны только в том случае, если программное обеспечение может видеть и обрабатывать большое количество личных данных. Эта полезность неотделима от риска.

Агенты создают проблемы с разрешениями

Напряженность, с которой Apple пытается справиться, носит структурный характер. Полезность ИИ-агента на рабочем столе напрямую зависит от того, что он может видеть: суммировать вашу электронную почту, сортировать загрузки, составлять расписание в календаре и черновики ответов, и он должен читать их все. Таким образом, у разработчиков есть коммерческий стимул запрашивать самые широкие доступные права, а не собирать узкие разрешения для конкретных задач, а полный доступ к диску является самым широким из существующих.

Формулировка Apple примечательна тем, что она прямо называет агентов ИИ причиной изменения расчетов. Утилита резервного копирования с полным доступом к диску всегда вызывала беспокойство; автономный агент с таким же доступом может самостоятельно решить, что делать со всем, что он может прочитать. Требуя очень явных действий пользователя перед предоставлением такого доступа, Apple фактически создает архитектуру согласия для эпохи агентов — и оказывает давление на разработчиков ИИ, чтобы они разрабатывали продукты, которым в первую очередь требуется меньший доступ.

Тем временем совет для пользователей остается неизменным: проверяйте, какие приложения в настоящее время имеют полный доступ к диску в настройках системы, отменяйте все, что не может оправдать разрешение, и скептически относитесь к любому ИИ-помощнику, который запрашивает ключи от всей системы для предоставления скромной функции.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →