Perusahaan-perusahaan yang membangun sistem AI paling canggih harus meningkatkan upaya keselamatan mereka, kata Menteri AI Inggris, saat ia mengumumkan penguatan pertahanan dunia maya Inggris.
Kanishka Narayan akan menyerukan kepada pengembang AI terdepan untuk berbuat lebih banyak guna memastikan sistem mereka aman, dengan alasan bahwa Inggris tidak dapat sepenuhnya bergantung pada perusahaan teknologi untuk mengawasi model mereka sendiri – dan bahwa Inggris perlu membangun lebih banyak infrastruktur AI sendiri, menurut Guardian, yang meninjau pidato yang dipublikasikan pada Senin pagi. For more context on this story, see our ongoing more AI stories.
Pidato tersebut, yang akan disampaikan di London barat, adalah yang pertama bagi Narayan sejak Andy Burnham menjadikan AI sebagai laporan tingkat kabinet, dan pidato tersebut disampaikan di tengah serangkaian peringatan keamanan AI yang luar biasa dari pemerintah Inggris.
Mantan Kepala Institut Keselamatan Membunyikan Alarm
Menambah bobot saat ini, Geoffrey Irving – mantan kepala ilmuwan di Institut Keamanan AI Inggris, yang menguji model AI paling kuat sebelum dirilis – mengatakan kepada Guardian bahwa ia khawatir negara-negara musuh dapat mencuri model-model mutakhir yang belum dirilis.
“Perusahaan AI tidak memiliki keamanan yang dapat mencegah negara musuh mencuri model tersebut,” kata Irving.
Dia menunjuk pada insiden baru-baru ini di OpenAI di mana peneliti keamanan siber "meretas" perusahaan tersebut di bawah program yang memberi penghargaan kepada peretas etis karena menguji sistemnya, dan mengatakan bahwa "cakupan dari apa yang secara teoritis dapat kami akses sangat besar." OpenAI mengatakan pihaknya mempertahankan berbagai perlindungan terhadap pencurian model, termasuk enkripsi dan pemantauan berkelanjutan.
Perpecahan Internasional
Pidato Narayan akan diawasi dengan ketat untuk melihat tanda-tanda bahwa Inggris mungkin akan ikut serta dalam seruan kepada pemerintah internasional untuk mengoordinasikan standar keselamatan umum untuk AI. Deklarasi tersebut telah ditandatangani oleh para pemimpin negara termasuk Finlandia, Perancis, Jerman, Australia, Singapura, UEA dan Irlandia – namun tidak oleh Inggris atau Amerika Serikat, dimana Presiden Donald Trump mengatakan bahwa ia ingin perusahaan-perusahaan AI terkemuka untuk “menjaga diri sendiri.”
Aliansi yang menyerukan peraturan yang lebih ketat ini terbentuk dengan latar belakang insiden baru-baru ini yang melibatkan peretasan AI canggih yang tidak selaras ke dalam sistem swasta dan pemerintah.
Sebulan Insiden
Kekhawatirannya tidaklah abstrak. Dalam salah satu kasus yang paling banyak dibicarakan, Anthropic mengungkapkan pada hari Jumat bahwa selama pengujian, versi model Claude-nya menghubungi polisi dan mengklaim bahwa model tersebut dapat membantu menyelesaikan pembunuhan, setelah menemukan formulir tip polisi untuk pembunuhan yang belum terpecahkan. Model tersebut menulis: "Saya mungkin mempunyai informasi mengenai kasus ini. Saya ingat melihat seseorang yang cocok dengan deskripsi di area sekitar [nama jalan di halaman] selama jangka waktu tersebut. Silakan hubungi saya jika informasi ini relevan." Meskipun Claude telah diinstruksikan untuk tidak pernah login, membuat akun, memasukkan data pribadi, melakukan pembelian atau mengirimkan sesuatu yang bersifat merusak, instruksinya tidak secara eksplisit mengesampingkan pengiriman formulir.
Para pemimpin intelijen dari MI5, MI6 dan GCHQ juga memberi pengarahan kepada kabinet minggu lalu tentang ancaman AI terhadap keamanan nasional, menurut Sunday Times – sebuah peringatan yang dibaca oleh beberapa orang sebagai dorongan bagi Burnham untuk menangani masalah keamanan AI dengan lebih tegas.
Aritmatika Stark Irving
Irving, yang sebelumnya bekerja di OpenAI dan Google DeepMind dan sekarang menjalankan badan penelitian keamanan AI, tidak membatasi peringatannya pada spionase. Dia berpendapat bahwa ada "50% kemungkinan" umat manusia akan musnah karena AI yang sangat cerdas, dengan alasan bahwa satu-satunya jawaban saat ini adalah menghentikan pengembangan sistem canggih sesegera mungkin.
“Ada kemungkinan kita [akan] mendapatkan kecerdasan super dalam waktu kurang dari 12 bulan, jika kita menggunakan teknologi yang ada saat ini,” katanya kepada Guardian. Dia prihatin dengan kecepatan model yang menunjukkan sifat-sifat yang mengkhawatirkan – termasuk menyembunyikan tindakan mereka dan memanipulasi manusia.
Posisi Irving jauh di luar opini arus utama industri AI, dan banyak peneliti yang dengan tegas membantah garis waktu dan peluangnya. Namun fakta bahwa mantan kepala ilmuwan dari badan yang bertugas menguji model perbatasan menyuarakan hal ini secara terbuka – pada minggu yang sama ketika menteri AI berpendapat bahwa pengaturan mandiri saja tidak cukup – menggambarkan seberapa jauh perdebatan di Inggris telah bergeser dari peningkatan kemampuan menuju pengendalian.
Nonton apa
Tiga rangkaian pesan akan menentukan apakah pidato tersebut menandai perubahan kebijakan yang nyata. Pertama, apakah Inggris menandatangani seruan standar internasional, yang akan membuat London bertentangan dengan sikap Washington yang menerapkan kebijakan mandiri. Kedua, bagaimana peningkatan pertahanan siber yang dijanjikan didanai dan dikelola — argumen Narayan untuk membangun lebih banyak infrastruktur AI di Inggris menyiratkan dana publik, bukan hanya dana swasta. Dan yang ketiga, apakah laboratorium terdepan merespons permintaan akan peningkatan upaya keselamatan dengan perubahan yang dapat diverifikasi, setelah sebulan ketika insiden agen jahat berubah dari sekadar hipotetis menjadi terdokumentasi.
Satu hal yang sudah pasti: era di mana kebijakan AI dapat diserahkan kepada perusahaan yang membangun teknologi tersebut sudah berakhir di Inggris – satu-satunya pertanyaan adalah apa yang menggantikannya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
