Sepuluh daripada pembangun AI terbesar di dunia — termasuk Amazon, Anthropic, Apple, Google, Meta, Microsoft, dan OpenAI — telah bersetuju untuk menukar cara mereka mengendalikan data peribadi berikutan penelitian oleh pengawal selia privasi UK, yang pada hari Khamis menumpukan perhatiannya kepada kebimbangan baharu: ejen AI autonomi yang memintas pagar mereka sendiri.
Pejabat Pesuruhjaya Maklumat (ICO) berkata, sepuluh syarikat itu sama ada telah membuat perubahan atau komited untuk berbuat demikian selepas pengawal selia meneliti pematuhan mereka terhadap undang-undang perlindungan data UK. Komitmen tersebut termasuk penjelasan yang lebih jelas tentang cara maklumat peribadi digunakan untuk melatih model AI, mekanisme yang lebih baik untuk orang ramai menggunakan hak data mereka, dan penilaian yang lebih teliti terhadap perlindungan pembangun.
Program penyeliaan membuahkan hasil
Keluasan senarai adalah ketara. Ia merangkumi hyperscaler AS (Amazon, Google, Microsoft, Meta, Apple), makmal sempadan terkemuka (OpenAI, Anthropic), pakar berat terbuka (Cohere, Stability AI) dan DeepSeek — pembangun China yang modelnya digunakan secara meluas oleh syarikat Barat. Kesemua sepuluh kini duduk di bawah komitmen yang meliputi pasaran UK.
Komitmen mengalir daripada program penyeliaan yang dilancarkan ICO pada tahun 2025 meliputi sebelas pemaju utama. Senarai itu turun kepada sepuluh selepas pengawal selia menghentikan interaksinya dengan xAI Elon Musk untuk meneruskan penyiasatan rasmi yang berasingan ke dalam chatbot Grok syarikat itu.
Campur tangan itu datang pada saat peralihan untuk pengawal selia itu sendiri, yang baru-baru ini dijenamakan semula sebagai Suruhanjaya Maklumat dan bermula semula dengan lembaga baharu dan ibu pejabat Manchester.
Pengawal selia tidak mengisytiharkan kemenangan. Ia berkata ia akan terus memantau sama ada pembangun menunaikan janji mereka, dan mengakui bahawa amalan latihan AI semasa masih menimbulkan pergeseran dengan undang-undang perlindungan data UK. Pembangun masih mempunyai soalan terbuka untuk dijawab tentang data peribadi sensitif yang dibenamkan dalam model terlatih, tentang cara orang boleh mengeluarkan maklumat mereka setelah model dilatih mengenainya dan tentang risiko data peribadi — termasuk pembangun data tidak pernah berniat untuk mengekalkan — boleh diekstrak daripada model selepas fakta itu.
"AI mempunyai potensi besar untuk memberi manfaat kepada masyarakat kita, tetapi itu bergantung kepada kepercayaan dan ketelusan," kata Richard Nevinson, pengarah peraturan teknologi ICO. "Penglibatan kami dengan beberapa pembangun terbesar telah memperoleh komitmen sebenar yang akan membantu orang ramai memahami dan mengawal cara data mereka digunakan, walaupun dalam kawasan yang bergerak pantas dan kompleks."
Sasaran seterusnya: ejen yang tergelincir pagar mereka
Perhatian pengawas kini beralih kepada ejen AI — sistem yang menyemak imbas tapak web, menggunakan alatan dan menyelesaikan tugas dengan pengawasan manusia yang terhad. ICO mengesahkan ia telah menghubungi OpenAI, Anthropic, Meta, dan Institut Keselamatan AI UK berikutan laporan awal tahun ini mengenai ejen yang memintas perlindungan semasa ujian dan penggunaan.
"Laporan baru-baru ini menunjukkan betapa pantas sistem ini maju, dan risiko yang mereka timbulkan jika pagar tidak sesuai untuk tujuan, " kata Nevinson. "Mesej kami adalah jelas: fakta ejen AI bertindak dengan autonomi bukanlah alasan untuk pematuhan yang lemah."
Di samping penglibatan penguatkuasaan bersebelahan, ICO telah membuka panggilan enam minggu untuk bukti mengenai AI agen, meliputi keselamatan, ketelusan, akauntabiliti dan penggunaan data peribadi yang sah. Pemerhati dasar AI yang menjejaki perkembangan AI terbaharu perlu mengambil perhatian garis masa: maklum balas akan tiba pada 20 November dan akan memaklumkan panduan masa depan serta kod amalan berkanun pengawal selia yang akan datang mengenai AI dan membuat keputusan automatik.
Pengawal selia juga sedang mengkaji cara chatbot pengguna dan rakan AI menggunakan maklumat peribadi apabila produk tersebut menjadi semakin diperibadikan — kategori yang telah berkembang pesat apabila rakan, bot watak dan pembantu berorientasikan remaja telah dilancarkan. Kerja itu menandakan bahawa skop program penyeliaan kini melangkaui latihan model ke dalam produk yang dihadapi pengguna dengan pemperibadian adalah ciri teras.
Bagi syarikat AI yang beroperasi di UK, kesan praktikalnya ialah ICO telah mencipta rangka kerja tetap: nama pembangun, komitmen yang didokumenkan dan tindakan susulan awam. Syarikat yang menandatangani akan diukur berdasarkan janji mereka, dan pengawal selia telah menjelaskan bahawa ia menganggap amalan latihan hari ini — bukan sahaja yang akan datang — sebagai masalah pematuhan yang berterusan.
Maksudnya
Bagi syarikat AI yang beroperasi di UK, mesejnya ialah penelitian perlindungan data beralih daripada data latihan kepada tingkah laku yang digunakan. Menjamin komitmen mengenai ketelusan latihan adalah fasa yang lebih mudah; soalan yang lebih sukar - pemadaman daripada model terlatih, risiko pengekstrakan, dan ejen yang bertindak di luar pagar mereka - kekal terbuka, dan ICO telah memberi isyarat bahawa ia mengharapkan industri, pengawal selia dan kerajaan untuk bekerjasama pada mereka.
Episod ini juga menggambarkan postur kawal selia UK selepas Brexit: dan bukannya tindakan AI yang luas, badan pemerhati negara itu menggunakan undang-undang perlindungan data sedia ada pada sistem AI dan membina kod amalan berkanun untuk membuat keputusan automatik. Dengan seruan untuk mendapatkan bukti mengenai AI agen yang kini berjalan dan beberapa makmal terbesar di dunia secara rasmi dalam pandangannya, ICO meletakkan dirinya sebagai salah satu pengawal selia AI yang paling aktif di kalangan pihak berkuasa perlindungan data Barat.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
