Sepuluh pengembang AI terbesar di dunia – termasuk Amazon, Anthropic, Apple, Google, Meta, Microsoft, dan OpenAI – telah setuju untuk mengubah cara mereka menangani data pribadi setelah pengawasan ketat dari regulator privasi Inggris, yang pada hari Kamis mengalihkan perhatiannya ke masalah baru: agen AI otonom yang melewati batasan mereka sendiri.
Kantor Komisaris Informasi (ICO) mengatakan sepuluh perusahaan tersebut telah melakukan perubahan atau berkomitmen untuk melakukan hal tersebut setelah regulator memeriksa kepatuhan mereka terhadap undang-undang perlindungan data Inggris. Komitmen tersebut mencakup penjelasan yang lebih jelas tentang bagaimana informasi pribadi digunakan untuk melatih model AI, mekanisme yang lebih baik bagi masyarakat untuk menggunakan hak data mereka, dan penilaian yang lebih ketat terhadap perlindungan pengembang.
Program pengawasan membuahkan hasil
Luasnya daftar ini patut diperhatikan. Ini mencakup perusahaan hyperscaler Amerika (Amazon, Google, Microsoft, Meta, Apple), laboratorium terdepan (OpenAI, Anthropic), spesialis open-weight (Cohere, Stability AI), dan DeepSeek — pengembang Tiongkok yang modelnya banyak digunakan oleh perusahaan-perusahaan Barat. Kesepuluhnya kini berada di bawah komitmen yang mencakup pasar Inggris.
Komitmen tersebut berasal dari program pengawasan yang diluncurkan ICO pada tahun 2025 yang mencakup sebelas pengembang besar. Daftar tersebut turun menjadi sepuluh setelah regulator menghentikan keterlibatannya dengan xAI milik Elon Musk untuk melakukan penyelidikan formal terpisah terhadap chatbot Grok perusahaan tersebut.
Intervensi ini terjadi pada saat transisi bagi regulator itu sendiri, yang baru-baru ini berganti nama menjadi Komisi Informasi dan memulai kembali dengan dewan baru dan kantor pusat di Manchester.
Regulator tidak menyatakan kemenangan. Dikatakan bahwa pihaknya akan terus memantau apakah pengembang memenuhi janji mereka, dan mengakui bahwa praktik pelatihan AI saat ini masih menimbulkan perselisihan dengan undang-undang perlindungan data Inggris. Pengembang masih memiliki pertanyaan terbuka untuk dijawab tentang data pribadi sensitif yang tertanam dalam model yang dilatih, tentang bagaimana orang dapat menghapus informasi mereka setelah model dilatih mengenai hal tersebut, dan tentang risiko bahwa data pribadi – termasuk data yang tidak pernah ingin disimpan oleh pengembang – dapat diambil dari model setelah kejadian tersebut.
“AI mempunyai potensi besar untuk memberikan manfaat bagi masyarakat kita, namun hal itu bergantung pada kepercayaan dan transparansi,” kata Richard Nevinson, direktur regulasi teknologi ICO. “Keterlibatan kami dengan beberapa pengembang terbesar telah menghasilkan komitmen nyata yang akan membantu masyarakat lebih memahami dan mengontrol bagaimana data mereka digunakan, bahkan di area yang bergerak cepat dan kompleks.”
Target berikutnya: agen yang lolos dari pagar pembatasnya
Perhatian pengawas kini beralih ke agen AI – sistem yang menjelajahi situs web, menggunakan alat, dan menyelesaikan tugas dengan pengawasan manusia yang terbatas. ICO mengkonfirmasi bahwa mereka telah menghubungi OpenAI, Anthropic, Meta, dan AI Security Institute Inggris menyusul laporan awal tahun ini tentang agen yang melewati perlindungan selama pengujian dan penerapan.
“Laporan terbaru ini menunjukkan seberapa cepat kemajuan sistem ini, dan risiko yang ditimbulkan jika pagar pembatas tidak sesuai dengan tujuannya,” kata Nevinson. “Pesan kami jelas: fakta bahwa agen AI bertindak dengan otonomi bukanlah alasan untuk rendahnya kepatuhan.”
Bersamaan dengan keterlibatan terkait penegakan hukum, ICO telah membuka seruan enam minggu untuk mendapatkan bukti tentang AI agen, yang mencakup keamanan, transparansi, akuntabilitas, dan penggunaan data pribadi yang sah. Pengamat kebijakan AI yang memantau perkembangan AI terkini perlu memperhatikan lini waktunya: tanggapan akan diberikan paling lambat tanggal 20 November dan akan menjadi panduan di masa depan serta kode praktik undang-undang regulator yang akan datang mengenai AI dan pengambilan keputusan otomatis.
Regulator juga memeriksa bagaimana chatbot konsumen dan pendamping AI menggunakan informasi pribadi seiring dengan semakin personalnya produk-produk tersebut – sebuah kategori yang telah berkembang pesat seiring dengan diperkenalkannya pendamping, bot karakter, dan asisten yang berorientasi pada remaja. Hal ini menandakan bahwa cakupan program pengawasan kini melampaui pelatihan model hingga produk yang berhubungan dengan konsumen dengan personalisasi sebagai fitur intinya.
Bagi perusahaan AI yang beroperasi di Inggris, dampak praktisnya adalah ICO telah menciptakan kerangka kerja yang kokoh: nama pengembang, komitmen terdokumentasi, dan tindak lanjut publik. Perusahaan-perusahaan yang menandatangani kontrak akan diukur berdasarkan janji-janji mereka, dan regulator telah memperjelas bahwa mereka menganggap praktik pelatihan saat ini – bukan hanya yang akan terjadi di masa depan – sebagai masalah kepatuhan yang berkelanjutan.
Apa artinya
Bagi perusahaan AI yang beroperasi di Inggris, pesannya adalah pengawasan perlindungan data beralih dari data pelatihan ke perilaku yang diterapkan. Menjamin komitmen terhadap transparansi pelatihan merupakan fase yang lebih mudah; pertanyaan yang lebih sulit – penghapusan dari model terlatih, risiko ekstraksi, dan agen yang bertindak di luar batasan mereka – tetap terbuka, dan ICO telah mengisyaratkan bahwa mereka mengharapkan industri, regulator, dan pemerintah untuk menangani masalah ini bersama-sama.
Episode ini juga menggambarkan postur regulasi di Inggris pasca-Brexit: alih-alih menerapkan kebijakan AI secara luas, lembaga pengawas di negara tersebut justru menerapkan undang-undang perlindungan data yang ada pada sistem AI dan membangun kode praktik undang-undang untuk pengambilan keputusan otomatis. Dengan adanya seruan untuk membuktikan AI agen yang kini berjalan dan beberapa laboratorium terbesar di dunia yang secara resmi sudah mulai diincar, ICO memposisikan dirinya sebagai salah satu regulator AI yang paling aktif di antara otoritas perlindungan data Barat.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
