Apple zwiększa jedno z najpotężniejszych uprawnień na komputerze Mac. W poście na blogu dewelopera firma poinformowała, że wprowadza nowe mechanizmy kontroli ustawienia pełnego dostępu do dysku w systemie macOS, ostrzegając, że niektórzy programiści wykorzystują to uprawnienie w sposób, który może narazić cały system użytkownika – i że agenci sztucznej inteligencji sprawiają, że ten poziom dostępu jest znacznie bardziej niebezpieczny.
Posunięcie to, zgłoszone przez TechCrunch, pojawia się w momencie, gdy mnożą się komputerowi asystenci AI i coraz częściej działają w imieniu użytkowników. Pełny dostęp do dysku został pierwotnie zaprojektowany tak, aby aplikacje takie jak oprogramowanie do tworzenia kopii zapasowych mogły prawidłowo działać, ale zapewnia niezwykły zasięg: pozwolenie na czytanie plików użytkownika, poczty, wiadomości, a nawet historii przeglądania. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
„Niektórzy programiści korzystają z pełnego dostępu do dysku w sposób, który może narazić użytkowników na ryzyko, ujawniając wszystko, co znajduje się w ich systemach… bez pełnej wiedzy i zrozumienia użytkowników” – stwierdził Apple w poście na blogu skierowanym do programistów.
Dlaczego Apple działa teraz
Oświadczenie nadeszło kilka dni po tym, jak felietonista Inc., Jason Aten, poinformował, że Muse, aplikacja na Macu oparta na sztucznej inteligencji, najwyraźniej zna treść jego prywatnych wiadomości – mimo że stwierdził, że nie udzielił agentowi pozwolenia na ich przeczytanie. Meta, właścicielka Muse, kwestionuje to twierdzenie, ale raport rzuca światło na to, jak duże zaufanie użytkownicy proszeni są o pokładanie oprogramowania AI na komputery stacjonarne, które może odczytywać ich pliki i kontrolować ich systemy.
Decyzja Apple jest również następstwem raportu Wired opisującego lukę w aplikacji ChatGPT dla komputerów Mac dla komputerów Mac, która mogła umożliwić hakerom dostęp do wrażliwych danych z komputerów użytkowników. Żaden z incydentów nie oznaczał potwierdzonego naruszenia zabezpieczeń platformy Apple, ale razem ilustrują nową powierzchnię ryzyka stwarzaną przez agentów sztucznej inteligencji: oprogramowanie, które ma szeroki dostęp, działa nieprzerwanie i działa z coraz większą autonomią, jest znacznie cenniejszym celem – i znacznie większym obciążeniem – niż tradycyjna aplikacja.
W przypadku Muse aplikacja AI opcjonalnie umożliwia użytkownikom włączenie pełnego dostępu do dysku, który zapewnia klucze do plików, poczty, wiadomości i historii przeglądania za pomocą jednego przełącznika. Ten schemat – asystent AI proszący o jak najszersze pozwolenie, aby był maksymalnie pomocny – jest dokładnie tym, co Apple chce teraz przerwać.
Co się zmienia na komputerze Mac
Apple twierdzi, że w przyszłości wprowadzi nowe mechanizmy kontroli, aby zapewnić, że użytkownicy, którzy naprawdę chcą przyznać aplikacji tak niezwykły poziom dostępu, będą mogli to zrobić jedynie po bardzo wyraźnym działaniu ze strony użytkownika. W praktyce oznacza to mniej okien dialogowych wyrażających zgodę za jednym kliknięciem ukrytych w procesach konfiguracji oraz bardziej przemyślany, świadomy proces, zanim aplikacja będzie mogła zobaczyć wszystko na komputerze Mac.
„Zajęcie się tym problemem jest niezwykle istotne” – napisał Apple. „W miarę jak agenci sztucznej inteligencji stają się coraz bardziej kompetentni i autonomiczni, ryzyko związane z tym poziomem dostępu znacznie wzrośnie. Dokładamy wszelkich starań, aby użytkownicy dobrze zrozumieli te zagrożenia przed udzieleniem takiego dostępu, aby mogli podejmować świadome decyzje dotyczące własnych danych i prywatności”.
Apple nie odpowiedział na zapytanie TechCrunch dotyczące zmiany funkcji, a firma nie określiła dokładnie, kiedy nowe elementy sterujące zostaną dostarczone ani jak będą wyglądać w systemie macOS. Programiści korzystający z pełnego dostępu do dysku w uzasadnionych celach — narzędzia do tworzenia kopii zapasowych, oprogramowanie zabezpieczające i narzędzia do automatyzacji — będą uważnie obserwować, czy bardziej rygorystyczny przepływ zgody nie spowoduje problemów dla ich użytkowników.
Sygnał dla ery komputerów stacjonarnych
Zmiana polityki odzwierciedla szersze podejście branży sztucznej inteligencji do kwestii uprawnień agentów. Agenci AI działający na komputerze użytkownika mogą tworzyć dokumenty, przenosić pliki, wysyłać wiadomości i przeglądać Internet — możliwości te są przydatne tylko wtedy, gdy oprogramowanie może przeglądać i dotykać dużej ilości danych osobowych. Ta użyteczność jest nierozerwalnie związana z ryzykiem.
Tworzą się agenci problemów z uprawnieniami
Napięcie, które Apple stara się opanować, ma charakter strukturalny. Przydatność agenta AI na komputerze jest bezpośrednią funkcją tego, co widzi: podsumowanie wiadomości e-mail, sortowanie pobranych plików, planowanie w kalendarzu i wersje robocze odpowiedzi, a agent musi je wszystkie przeczytać. Deweloperzy mają zatem komercyjną motywację, aby ubiegać się o jak najszersze dostępne uprawnienia, zamiast gromadzić wąskie, specyficzne uprawnienia dla konkretnych zadań — a pełny dostęp do dysku jest najszerszy ze wszystkich.
Sformułowanie Apple jest godne uwagi ze względu na to, że bezpośrednio wymienia agentów AI jako przyczynę zmiany rachunku różniczkowego. Narzędzie do tworzenia kopii zapasowych z pełnym dostępem do dysku zawsze budziło obawy; autonomiczny agent z tym samym dostępem może samodzielnie decydować, co zrobić ze wszystkim, co przeczyta. Wymagając od użytkownika bardzo wyraźnego działania przed przyznaniem takiego dostępu, Apple skutecznie buduje architekturę zgody na erę agentów i przede wszystkim wywiera presję na twórców sztucznej inteligencji, aby projektowali produkty, które w pierwszej kolejności wymagają mniejszego dostępu.
W międzyczasie rada dla użytkowników pozostaje niezmienna: sprawdź, które aplikacje mają obecnie pełny dostęp do dysku w Ustawieniach systemu, unieważnij wszystko, co nie może uzasadniać pozwolenia i bądź sceptyczny wobec każdego asystenta AI, który poprosi o klucze do całego systemu, aby zapewnić skromną funkcję.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
