Apple посилює один із найпотужніших дозволів на Mac. У дописі в блозі розробників компанія повідомила, що запроваджує нові засоби керування налаштуванням повного доступу до диска в macOS, попереджаючи, що деякі розробники використовують це право таким чином, що може піддати відкриту всю систему користувача — і що агенти ШІ роблять цей рівень доступу набагато небезпечнішим.
Цей крок, про який повідомляє TechCrunch, відбувається в той момент, коли помічники штучного інтелекту для настільних комп’ютерів розмножуються і все частіше діють від імені користувачів. Повний доступ до диска спочатку був розроблений для належної роботи таких програм, як програмне забезпечення резервного копіювання, але він надає надзвичайний доступ: дозвіл читати файли користувача, пошту, повідомлення та навіть історію веб-перегляду. For more context on this story, see our ongoing AI trends.
«Деякі розробники використовують повний доступ до диска таким чином, що може наражати користувачів на небезпеку, відкриваючи все в їхніх системах… без повного знання та розуміння користувачами», — йдеться в повідомленні Apple у блозі, призначеному для розробників.
Чому Apple діє зараз
Оголошення було зроблено через кілька днів після того, як оглядач Inc. Джейсон Атен повідомив, що Muse, програма на базі штучного інтелекту на Mac, схоже, знала вміст його особистих повідомлень, хоча він сказав, що не давав агенту дозволу їх читати. Компанія Meta, якій належить Muse, оскаржила цю заяву, але у звіті звернули увагу на те, наскільки довіряти користувачам пропонується програмне забезпечення штучного інтелекту для настільних ПК, яке може читати їхні файли та контролювати їхні системи.
Рішення Apple також було прийнято після звіту Wired, який описує недолік у додатку ChatGPT для Mac, який міг дозволити хакерам отримати доступ до конфіденційних даних з комп’ютерів користувачів. Жоден інцидент не пов’язаний із підтвердженим порушенням безпеки власної платформи Apple, але разом вони ілюструють нову поверхню ризику, яку створюють агенти штучного інтелекту: програмне забезпечення, якому надано повний доступ, працює безперервно та діє зі збільшенням автономності, є набагато ціннішою ціллю — і набагато більшою відповідальністю — ніж традиційні програми.
У випадку Muse додаток AI додатково дозволяє користувачам увімкнути повний доступ до диска, який передає йому ключі до файлів, пошти, повідомлень та історії веб-перегляду одним перемикачем. Цей шаблон — помічник штучного інтелекту, який запитує найширший можливий дозвіл, щоб він міг бути максимально корисним — саме те, що Apple зараз хоче перервати.
Що змінилося на Mac
У майбутньому Apple заявляє, що запровадить нові елементи керування, щоб гарантувати, що користувачі, які справді бажають надати додатку такий надзвичайний рівень доступу, зможуть зробити це лише за дуже чітких дій користувача. На практиці це означає менше діалогових вікон згоди в один клік, похованих у потоках налаштування, і більш продуманий, обґрунтований процес, перш ніж програма зможе побачити все на Mac.
«Вирішення цього є критичним», — написала Apple. «Оскільки агенти штучного інтелекту стають все більш спроможними та автономними, ризики, пов’язані з цим рівнем доступу, значно зростуть. Ми прагнемо переконатися, що користувачі чітко розуміють ці ризики, перш ніж надавати такий доступ, щоб вони могли приймати обґрунтовані рішення щодо власних даних і конфіденційності».
Apple не відповіла на запит TechCrunch про зміну функції, і компанія не уточнила, коли саме будуть доставлені нові елементи керування або як вони відображатимуться в macOS. Розробники, які покладаються на повний доступ до диска в законних цілях — інструменти резервного копіювання, програмне забезпечення безпеки та утиліти автоматизації — будуть уважно спостерігати, щоб побачити, чи жорсткіший потік згоди створює труднощі для їхніх користувачів.
Сигнал для епохи настільного штучного інтелекту
Зміни в політиці відображають ширші розрахунки в індустрії ШІ щодо дозволів агентів. Агенти штучного інтелекту, які працюють на робочому столі користувача, можуть креслити документи, переміщувати файли, надсилати повідомлення та переглядати веб-сторінки — можливості, які корисні, лише якщо програмне забезпечення може бачити та торкатися великої кількості особистих даних. Ця користь невіддільна від ризику.
Агенти створюють проблеми з дозволами
Напруга, з якою Apple намагається впоратися, є структурною. Корисність агента штучного інтелекту на робочому столі є прямою функцією того, що він може бачити: підсумовувати вашу електронну пошту, сортувати ваші завантаження, планувати у вашому календарі та чернетки відповідей, і він повинен прочитати їх усі. Таким чином, розробники мають комерційний стимул вимагати найширші доступні права, а не збирати вузькі дозволи для конкретних завдань, а повний доступ до диска є найширшим із усіх.
Фреймінг Apple примітний тим, наскільки прямо він називає агентів штучного інтелекту причиною зміни обчислення. Утиліта резервного копіювання з повним доступом до диска завжди була проблемою; автономний агент з таким самим доступом може самостійно вирішувати, що робити з усім, що він може прочитати. Вимагаючи дуже чітких дій користувача перед наданням такого доступу, Apple фактично створює архітектуру згоди для агентської ери — і чинить тиск на розробників штучного інтелекту, щоб вони створювали продукти, які потребують меншого доступу.
Тим часом порада для користувачів залишається незмінною: перевірте, які програми наразі мають повний доступ до диска в параметрах системи, відкликайте все, що не може виправдати дозвіл, і скептично ставтеся до будь-якого помічника зі штучним інтелектом, який запитує ключі до всієї системи для надання скромної функції.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
