Apple mengetatkan salah satu kebenaran paling berkuasa pada Mac. Dalam catatan blog pembangun, syarikat itu berkata ia memperkenalkan kawalan baharu di sekitar tetapan Akses Cakera Penuh macOS, memberi amaran bahawa sesetengah pembangun menggunakan hak tersebut dengan cara yang boleh mendedahkan keseluruhan sistem pengguna — dan bahawa ejen AI menjadikan tahap akses itu jauh lebih berbahaya.
Langkah itu, yang dilaporkan oleh TechCrunch, tiba pada saat pembantu AI desktop semakin membiak dan semakin bertindak. Akses Cakera Penuh pada asalnya direka supaya aplikasi seperti perisian sandaran boleh berfungsi dengan betul, tetapi ia memberikan capaian yang luar biasa: kebenaran untuk membaca fail pengguna, mel, mesej dan juga sejarah penyemakan imbas. For more context on this story, see our ongoing AI industry coverage.
"Sesetengah pembangun menggunakan Akses Cakera Penuh dengan cara yang boleh membahayakan pengguna, mendedahkan segala-galanya pada sistem mereka...tanpa pengetahuan dan pemahaman penuh pengguna," kata Apple dalam catatan blog yang ditujukan kepada pemaju.
Mengapa Apple Bertindak Sekarang
Pengumuman itu dibuat beberapa hari selepas kolumnis Inc. Jason Aten melaporkan bahawa Muse, aplikasi berkuasa AI pada Mac, nampaknya mengetahui kandungan mesej peribadinya — walaupun dia berkata dia tidak memberi kebenaran kepada ejen untuk membacanya. Meta, yang memiliki Muse, mempertikaikan dakwaan itu, tetapi laporan itu memberi tumpuan kepada sejauh mana kepercayaan pengguna diminta untuk meletakkan dalam perisian AI desktop yang boleh membaca fail mereka dan mengawal sistem mereka.
Keputusan Apple juga mengikuti laporan Wired yang menerangkan kecacatan dalam aplikasi Mac ChatGPT yang boleh membenarkan penggodam mengakses data sensitif daripada komputer pengguna. Kedua-dua insiden tidak melibatkan pelanggaran keselamatan platform Apple sendiri yang disahkan, tetapi bersama-sama ia menggambarkan permukaan risiko baharu yang dicipta oleh ejen AI: perisian yang diberikan akses menyeluruh, berjalan secara berterusan dan bertindak dengan peningkatan autonomi adalah sasaran yang jauh lebih berharga — dan liabiliti yang jauh lebih besar — daripada aplikasi tradisional.
Dalam kes Muse, aplikasi AI secara pilihan membenarkan pengguna mendayakan Akses Cakera Penuh, yang memberikan kunci kepada fail, mel, mesej dan sejarah penyemakan imbas dalam satu suis. Corak itu — pembantu AI yang meminta kebenaran seluas-luasnya supaya ia boleh membantu secara maksimum — itulah yang Apple sekarang mahu ganggu.
Perkara yang Berubah pada Mac
Melangkah ke hadapan, Apple berkata ia akan memperkenalkan kawalan baharu untuk memastikan pengguna yang benar-benar ingin memberikan apl tahap akses yang luar biasa ini boleh berbuat demikian hanya dengan tindakan pengguna yang sangat jelas. Dalam amalan, ini bermakna lebih sedikit dialog persetujuan satu klik yang terkubur dalam aliran persediaan dan proses yang lebih disengajakan dan termaklum sebelum apl boleh melihat segala-galanya pada Mac.
"Menangani perkara ini adalah kritikal," tulis Apple. "Apabila ejen AI menjadi semakin berkebolehan dan berautonomi, risiko yang berkaitan dengan tahap akses ini akan berkembang dengan ketara. Kami komited untuk memastikan pengguna memahami dengan jelas risiko ini sebelum memberikan akses sedemikian, supaya mereka boleh membuat keputusan termaklum mengenai data dan privasi mereka sendiri."
Apple tidak menjawab pertanyaan TechCrunch tentang perubahan ciri, dan syarikat itu tidak menyatakan dengan tepat bila kawalan baharu akan dihantar atau bagaimana ia akan muncul dalam macOS. Pembangun yang bergantung pada Akses Cakera Penuh untuk tujuan yang sah — alatan sandaran, perisian keselamatan dan utiliti automasi — akan memerhati dengan teliti untuk melihat sama ada aliran persetujuan yang lebih ketat menambahkan geseran untuk pengguna mereka.
Isyarat untuk Era AI Desktop
Peralihan dasar mencerminkan pengiraan yang lebih luas dalam industri AI tentang kebenaran ejen. Ejen AI yang beroperasi pada desktop pengguna boleh mendraf dokumen, mengalihkan fail, menghantar mesej dan menyemak imbas web — keupayaan yang hanya berguna jika perisian boleh melihat dan menyentuh banyak data peribadi. Utiliti itu tidak dapat dipisahkan daripada risiko.
Masalah Kebenaran Ejen Buat
Ketegangan yang cuba diuruskan oleh Apple adalah berstruktur. Kebergunaan ejen AI pada desktop ialah fungsi langsung daripada perkara yang boleh dilihatnya: ringkaskan e-mel anda, mengisih muat turun anda, jadualkan merentas kalendar anda dan draf balasan, dan ia mesti membaca semuanya. Oleh itu, pembangun mempunyai insentif komersil untuk meminta kelayakan terluas yang tersedia daripada memasang keizinan yang sempit dan khusus tugas - dan Akses Cakera Penuh adalah yang paling luas yang ada.
Pembingkaian Apple terkenal kerana secara langsung ia menamakan ejen AI sebagai sebab kalkulus telah berubah. Utiliti sandaran dengan Akses Cakera Penuh sentiasa menjadi kebimbangan; ejen autonomi dengan akses yang sama boleh memutuskan, dengan sendirinya, apa yang perlu dilakukan dengan semua yang boleh dibacanya. Dengan memerlukan tindakan pengguna yang sangat eksplisit sebelum akses sedemikian diberikan, Apple secara berkesan membina seni bina persetujuan untuk era ejen — dan memberi tekanan kepada pembangun AI untuk mereka bentuk produk yang memerlukan akses yang kurang di tempat pertama.
Bagi pengguna, nasihat sementara itu tidak berubah: audit aplikasi mana yang pada masa ini memegang Akses Cakera Penuh dalam Tetapan Sistem, batalkan apa-apa yang tidak boleh membenarkan kebenaran dan ragu-ragu terhadap mana-mana pembantu AI yang meminta kunci kepada keseluruhan sistem untuk menyampaikan ciri yang sederhana.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
