У понеділок Apple оголосила про нові засоби безпеки для Mac, спрямовані на захист користувачів від ризиків, створених агентами штучного інтелекту, які все частіше вимагають повного доступу до комп’ютера, щоб самостійно виконувати завдання. Згідно з TechCrunch, зміни з’явилися у другій бета-версії macOS 27.3 для розробників, а публічний випуск очікується в грудні.

Цей крок є прямою відповіддю на те, чим агентське програмне забезпечення відрізняється від чат-ботів, які були до нього. Агент штучного інтелекту не просто відповідає на запитання — він читає електронну пошту, керує файлами та іншими програмами від імені користувача. Щоб зробити це надійно, багато агентів запитують «Повний доступ до диска», дозвіл, який дозволяє програмному забезпеченню переглядати, змінювати або видаляти файли в усій системі. «Перш ніж надавати додатку такий екстраординарний доступ, користувачі повинні розуміти, що це ставить під загрозу всі дані на їхньому Mac», — попередила Apple у блозі, спрямованому на розробників додатків, повідомляє TechCrunch. For more context on this story, see our ongoing breaking AI news.

Чому Apple діє зараз

У жовтні Apple заявила, що перегляне налаштування безпеки Mac після того, як деякі розробники почали використовувати повний доступ до диска таким чином, щоб відкрити все, що зберігається в системі користувача. Занепокоєння загострилося після повідомлень про те, що сторонні інструменти штучного інтелекту, включно з настільним додатком Muse від Meta, можуть отримати доступ до приватних повідомлень і системних даних після отримання широких дозволів.

Епізод підкреслив незручний компроміс у центрі агентського буму: ті самі дозволи, які дозволяють помічнику бронювати зустріч або організувати бібліотеку фотографій, також дають йому ключі майже до всього іншого на машині.

Один потужний дозвіл перетворюється на два обмежених

У macOS 27.2 єдиний параметр під назвою «Керування пристроєм і доступ до даних» дозволяє програмам читати та надсилати електронну пошту, редагувати контакти та фотографії, контролювати клавіатуру, відстежувати відвідані веб-сайти, записувати екран і керувати іншими програмами — надзвичайно широкий набір для одного перемикача.

macOS 27.3 поділяє цей пакет на два параметри: доступність, призначений для допоміжних технологій, і перевизначення захисту системи та програм для програм, яким потрібно обходити певні засоби захисту, щоб контролювати інші програми або запускати автоматизовані завдання. Згідно з новим налаштуванням перевизначення, користувачі можуть вибирати, до яких саме програм доступний інструмент автоматизації. Користувач може, наприклад, дозволити агенту штучного інтелекту працювати з Mail, заблокувавши його від Messages.

Запитуйте щоразу та спостерігайте за панеллю меню

Оновлення також дозволяє користувачам вимагати від додатка запитувати дозвіл кожного разу, коли йому потрібен доступ, замість того, щоб надавати його на невизначений термін. Ця опція спрямована безпосередньо на довготривалих агентів, чия поведінка може змінюватися протягом днів або тижнів використання.

Новий індикатор на панелі меню показує, коли одна програма контролює іншу за допомогою дозволу на перевизначення, надаючи користувачам видиме підтвердження того, що фонова автоматизація запущена, а не залишає її прихованою.

Чіткіші попередження для повного доступу до диска

Apple не видаляє повний доступ до диска. Натомість на екрані схвалення тепер докладніше пояснюється, які засоби захисту обходяться та яка особиста інформація може бути розкрита. Оновлений процес також заохочує користувачів надавати доступ лише до певних папок, а не до всього Mac.

На скріншотах нових екранів схвалення, опублікованих у звітах, показано приклади додатків штучного інтелекту, зокрема ChatGPT від OpenAI і Claude від Anthropic. Екрани описують потенційний обсяг доступу та не вказують на те, що будь-яка програма зловживала даними.

Одне важливе застереження: програми, які вже мають повний доступ до диска, збережуть його. Користувачі, які раніше надали широкі дозволи помічникам AI або іншим інструментам, повинні будуть самостійно переглянути ці налаштування.

Що потрібно змінити розробникам

Apple заявила, що основні інтерфейси програмування не змінюються, але розробники повинні оновлювати свої програми, щоб вони продовжували працювати, коли користувачі надають лише обмежений доступ. Програмне забезпечення для резервного копіювання та допоміжні технології можуть вимагати спеціальних прав, щоб нові інсталяції зберігали свою попередню поведінку.

Не заборона — і не повне виправлення

Зміни не є загальним блоком програмного забезпечення ШІ. Вони застосовуються до будь-якої програми, яка запитує ці дозволи, незалежно від того, чи використовується ШІ. Дослідники безпеки також відзначають, що елементи керування не усувають інші ризики, такі як швидкі ін’єкційні атаки, які обманом змушують агентів ШІ виконувати шкідливі дії незалежно від того, які дозволи були спочатку надані.

Більша картина

macOS 27.3 зараз знаходиться в стадії бета-тестування, публічний випуск очікується в грудні, і деталі ще можуть змінитися до запуску. Але напрямок зрозумілий: постачальники платформ починають розглядати дозволи агентів як першокласну категорію безпеки, а не запізнілу думку.

Для користувачів Mac практичний висновок простий. Коли оновлення прийде, варто перевірити, які програми вже мають повний доступ до диска або старіші комбіновані дозволи, і скасувати все, що явно не потребує цього, оскільки Apple не знижує наявні гранти автоматично. Забігаючи вперед, віддавайте перевагу вибору з областю дії, а не загальносистемним замінам, якщо робота агента це дозволяє.

Цей крок відображає зростаюче занепокоєння в технологічній індустрії щодо того, як збалансувати зручність агентів штучного інтелекту з конфіденційністю та безпекою особистих даних користувачів — і це тисне на конкурентів, щоб пояснити, чому їхні власні моделі дозволів не встигають за тим, що зараз можуть робити агенти.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →