Salah satu pendiri Anthropic mengatakan pemerintah mungkin perlu memaksa perusahaan AI untuk memasang "tombol mematikan" (kill switch) – sebuah mekanisme untuk mematikan sistem AI sepenuhnya – dan bahwa pengawas dari luar harus dapat memverifikasi bahwa sistem tersebut benar-benar berfungsi.
Jack Clark, salah satu dari tujuh pendiri laboratorium AI senilai $965 miliar, mengatakan kepada BBC bahwa meskipun sebagian besar laboratorium terkemuka sudah memiliki cara internal untuk "menghentikan" sistem berbahaya, masyarakat "pada akhirnya mungkin ingin mengeluarkan peraturan" yang mewajibkan peralihan tersebut dan dapat diaudit secara independen. Bagi pembaca yang menelusuri debat keselamatan AI, intervensinya menandai usulan kebijakan paling konkrit yang pernah dilakukan di laboratorium terdepan selama seminggu ketika peringatan meningkat.
"Haruskah Anda mewajibkan perusahaan untuk memiliki tombol pemutus (kill switch)? Apakah tombol pemutus tersebut dapat diverifikasi oleh pihak ketiga?" Clark mengatakan dalam wawancara dengan reporter teknologi Kali Hays dan editor ekonomi Faisal Islam. “Saya pikir hal itulah yang ingin diketahui masyarakat dan pada akhirnya ingin mengeluarkan peraturan.”
'Kami Melempar Dadu Dengan Resiko Besar'
Komentar Clark yang paling mencolok adalah penolakan menyeluruh terhadap status quo. Ketika ditanya mengenai perkembangan industri ini, dia mengatakan membiarkan AI terus berlanjut sebagai “industri yang sepenuhnya tidak diatur” adalah ide yang buruk.
“Kita sedang melempar dadu dengan risiko yang sangat besar,” katanya. “Dan intinya adalah, kita harus mengubah arah industri ini.”
Berbeda dengan beberapa rekannya, Clark menolak menyebutkan angka risiko kepunahan manusia. “Saya rasa statistik ini tidak terlalu berguna,” katanya – sangat kontras dengan peneliti Antropik Evan Hubinger, yang mengatakan pekan lalu bahwa ia secara pribadi yakin ada lebih dari 10% kemungkinan kepunahan manusia akibat AI dalam dekade berikutnya, dan dengan pionir AI Geoffrey Hinton, yang mengatakan kepada BBC pada hari Jumat bahwa perkiraan 10% “bukanlah hal yang tidak masuk akal.”
Yang tidak dibantah Clark adalah arah perjalanannya. AI, seperti yang ia ungkapkan dalam wawancara yang sama, “semakin kuat dari hari ke hari” – dan ia berargumen bahwa hal-hal spesifik dari setiap persyaratan penutupan, termasuk siapa yang akan memverifikasinya dan bagaimana caranya, termasuk dalam “perbincangan kebijakan yang lebih besar” yang kini terjadi seputar AI.
Proposal Dengan Momentum Legislatif
Usulan Clark tidak akan muncul dalam ruang hampa. Anggota parlemen AS telah mengajukan undang-undang yang disebut Kill Switch Act, yang mengharuskan pengembang AI untuk membangun mekanisme penutupan ke dalam sistem mereka – sebuah rancangan undang-undang yang dibahas AI Buzz Wire bulan lalu karena urgensinya semakin meningkat menyusul insiden agen jahat.
Gagasan ini juga menghadapi skeptisisme terbuka. Di Inggris, Menteri Bisnis Jonathan Reynolds mengatakan kepada BBC bahwa dia tidak menganggap konsep tersebut bermanfaat, dan mengatakan bahwa dia "tidak begitu yakin apa arti konsep tersebut dalam praktiknya," dan memperingatkan bahwa peraturan yang berlebihan dapat membuat negara tersebut terputus dari model yang dikembangkan oleh asing.
Latar Belakang: Perang Saudara yang Aman — dan IPO
Komentar Clark mengakhiri minggu di mana keselamatan AI beralih dari topik seminar ke berita halaman depan. CEO Anthropic Dario Amodei pada akhir pekan lalu menyerukan agar laju pembangunan di wilayah perbatasan diperlambat dan diawasi secara lebih ketat, sambil menegaskan bahwa jeda apa pun harus dilakukan "tanpa mengorbankan keuntungan komersial." Dia kemudian membawa kasus itu ke khalayak arus utama Amerika dalam sebuah wawancara dengan Anderson Cooper dari CNN, dan Coxon sendiri muncul di jaringan tersebut untuk bereaksi terhadapnya. Pernyataan tersebut menyusul postingan viral dari mantan peneliti Antropik Jacob Coxon yang memperingatkan tentang nasib umat manusia, yang pada gilirannya mendorong perkiraan kepunahan Hubinger. The Guardian sendiri menyelidiki mengapa peringatan hari kiamat ini muncul setelah peringatan sebelumnya memudar.
Peringatan tersebut telah ditanggapi dengan cemoohan terbuka dari beberapa pihak di industri teknologi. CEO Hugging Face Clement Delangue mengejek keputusan untuk menjadikan Coxon sebagai juru bicara risiko kepunahan, dengan menulis: "Maaf, tapi bertanya kepada Jacob tentang risiko kepunahan AI sama seperti bertanya kepada orang AC Anda tentang perubahan iklim." CEO Grindr George Arison melangkah lebih jauh dengan berargumentasi bahwa tindakan yang menyebarkan ketakutan ini bermotif komersial. “Satu-satunya cara untuk membenarkan penilaian ini adalah dengan menyatakan: 'Saya akan mengambil alih setiap industri dan saya akan mengambil alih setiap pekerjaan, dan AI saya akan melakukan semua pekerjaan itu,'” katanya.
Ada juga sejumlah besar uang yang diperoleh dari hasil perdebatan ini. Anthropic sedang mempersiapkan penawaran umum perdana dengan valuasi $965 miliar, sementara OpenAI – yang baru-baru ini bernilai $852 miliar – diperkirakan akan go public sebelum CEO Sam Altman mengatakan pada hari Jumat bahwa IPO tidak akan dilakukan tahun ini karena kontroversi keamanan. Kritikus seperti Arison berpendapat bahwa retorika malapetaka dan upaya penggalangan dana adalah dua sisi dari mata uang yang sama; Jawaban Clark adalah bahwa industri harus mengubah arah.
Apakah kebijakan mematikan yang bersifat wajib dan dapat diverifikasi akan menjadi undang-undang akan bergantung pada anggota parlemen yang sejauh ini tidak menunjukkan keinginan untuk membatasi industri yang menggerakkan perekonomian AS. Namun untuk pertama kalinya, salah satu orang dalam teknologi yang paling berpengaruh secara eksplisit mengundang mereka untuk mencobanya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
