В понедельник Apple объявила о новых мерах безопасности для Mac, направленных на защиту пользователей от рисков, создаваемых агентами искусственного интеллекта, которые все чаще запрашивают полный доступ к компьютеру для самостоятельного выполнения задач. По данным TechCrunch, изменения появятся во второй бета-версии macOS 27.3 для разработчиков, публичный выпуск которой ожидается в декабре.

Этот шаг является прямым ответом на то, чем агентское программное обеспечение отличается от чат-ботов, существовавших до него. Агент ИИ не просто отвечает на вопросы — он читает электронную почту, управляет файлами и контролирует другие приложения от имени пользователя. Чтобы сделать это надежно, многие агенты запрашивают «Полный доступ к диску» — разрешение, которое позволяет программному обеспечению просматривать, изменять или удалять файлы во всей системе. «Прежде чем предоставлять приложению такой исключительный доступ, пользователи должны понимать, что это подвергает риску все данные на их Mac», — предупредила Apple в сообщении в блоге, адресованном разработчикам приложений, согласно TechCrunch. Подробнее об этой истории — в нашем тенденции ИИ.

Почему Apple действует сейчас

В октябре Apple заявила, что пересмотрит настройки безопасности Mac после того, как некоторые разработчики начали использовать Full Disk Access, чтобы раскрыть все, что хранится в системе пользователя. Опасения усилились после сообщений о том, что сторонние инструменты искусственного интеллекта, в том числе настольное приложение Meta Muse, могут получить доступ к личным сообщениям и системным данным после предоставления широких разрешений.

Этот эпизод продемонстрировал неудобный компромисс, лежащий в основе агентского бума: те же разрешения, которые позволяют помощнику назначить встречу или организовать библиотеку фотографий, также дают ему ключи почти ко всему остальному на машине.

Одно мощное разрешение становится двумя с ограниченной областью действия

В macOS 27.2 единый параметр под названием «Управление устройствами и доступ к данным» позволяет приложениям читать и отправлять электронную почту, редактировать контакты и фотографии, контролировать клавиатуру, отслеживать посещенные веб-сайты, записывать экран и управлять другими приложениями — удивительно широкий пакет для одного переключателя.

В macOS 27.3 этот пакет разделен на два параметра: «Доступность», предназначенная для вспомогательных технологий, и «Переопределение защиты системы и приложений», для приложений, которым необходимо обходить определенные средства защиты, чтобы контролировать другие приложения или выполнять автоматизированные задачи. В соответствии с новой настройкой переопределения пользователи могут выбирать, к каким именно приложениям может обращаться инструмент автоматизации. Пользователь может, например, разрешить агенту ИИ работать с почтой, блокируя при этом его доступ к сообщениям.

Спрашивайте каждый раз и следите за строкой меню

Обновление также позволяет пользователям требовать, чтобы приложение запрашивало разрешение каждый раз, когда ему требуется доступ, вместо того, чтобы предоставлять его на неопределенный срок — опция, предназначенная исключительно для долго работающих агентов, поведение которых может меняться в течение нескольких дней или недель использования.

Новый индикатор в строке меню показывает, когда одно приложение контролирует другое с помощью разрешения на переопределение, предоставляя пользователям видимое подтверждение того, что фоновая автоматизация запущена, а не оставляет ее скрытой.

Более четкие предупреждения о полном доступе к диску

Apple не удаляет полный доступ к диску. Вместо этого на экране одобрения теперь более подробно объясняется, какие средства защиты обходятся и какая личная информация может быть раскрыта. Обновленный поток также побуждает пользователей предоставлять доступ только к определенным папкам, а не ко всему Mac.

На скриншотах новых экранов одобрения, представленных в отчетах, показаны примеры использования приложений искусственного интеллекта, в том числе ChatGPT от OpenAI и Claude от Anthropic. Экраны описывают потенциальный объем доступа и не указывают на то, что какое-либо приложение использовало данные не по назначению.

Одно важное предостережение: приложения, которые уже имеют полный доступ к диску, сохранят его. Пользователям, которые ранее предоставляли широкие разрешения помощникам искусственного интеллекта или другим инструментам, необходимо будет самостоятельно просмотреть эти настройки.

Что разработчикам нужно изменить

Apple заявила, что базовые программные интерфейсы не меняются, но разработчики должны обновлять свои приложения, чтобы они продолжали работать, когда пользователи предоставляют лишь ограниченный доступ. Программное обеспечение резервного копирования и вспомогательные технологии могут запрашивать специальные права, чтобы новые установки сохраняли свое прежнее поведение.

Не бан — и не полное исправление

Изменения не являются полным блокированием программного обеспечения ИИ. Они применяются к любому приложению, запрашивающему эти разрешения, независимо от того, задействован ли в нем искусственный интеллект. Исследователи безопасности также отмечают, что меры контроля не устраняют другие риски, такие как атаки с быстрым внедрением, которые обманом заставляют агентов ИИ совершать вредоносные действия независимо от того, какие разрешения были изначально предоставлены.

Общая картина

macOS 27.3 сейчас находится на стадии бета-тестирования, публичный выпуск ожидается в декабре, и детали еще могут измениться до запуска. Но направление ясно: поставщики платформ начинают относиться к разрешениям агентов как к первоклассной категории безопасности, а не как к второстепенной мысли.

Для пользователей Mac практический вывод прост. Когда выйдет обновление, стоит проверить, какие приложения уже имеют полный доступ к диску или более старое комбинированное разрешение, и отозвать все, что явно не нуждается в этом, поскольку Apple не снижает уровень существующих разрешений автоматически. В дальнейшем отдавайте предпочтение ограниченному выбору, а не общесистемным переопределениям, если это позволяет работа агента.

Этот шаг отражает растущую обеспокоенность всей технологической отрасли по поводу того, как сбалансировать удобство агентов ИИ с конфиденциальностью и безопасностью личных данных пользователей — и заставляет конкурентов объяснять, почему их собственные модели разрешений не поспевают за тем, что агенты могут делать сейчас.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →