Raja Charles III mengeluarkan peringatan keras tentang "bahaya eksistensial" dari kecerdasan buatan pada hari Kamis, di hadapan para eksekutif dari Nvidia, Google DeepMind, dan OpenAI yang berkumpul di perkebunan Dumfries House di Skotlandia untuk pertemuan tingkat tinggi tentang masa depan teknologi.
Sang raja mengatakan kepada para pemimpin industri bahwa ada urgensi untuk menghadapi risiko yang ditimbulkan oleh sistem AI yang semakin kuat, terutama jika teknologi tersebut akhirnya dikendalikan oleh pelaku jahat. For more context on this story, see our ongoing more AI stories.
“Tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya yang ada jika teknologi tersebut jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi menimbulkan bencana,” kata Raja kepada para pemimpin yang berkumpul di perkebunan Ayrshire, menurut laporan ABC News dan beberapa media lainnya.
Pesan Ganda: Janji dan Bahaya
Pidato Raja bukanlah penolakan menyeluruh terhadap teknologi. Dia mengakui bahwa kecerdasan buatan mempunyai potensi yang sangat besar untuk kebaikan, khususnya pada ilmu kehidupan dan kedokteran, dimana alat AI semakin banyak digunakan untuk mempercepat penelitian dan meningkatkan hasil pasien.
Namun ia memadukan optimisme tersebut dengan peringatan bahwa para pencipta teknologi itu sendiri telah semakin memperingatkan bahwa sistem yang canggih dapat mengembangkan kapasitas yang lebih gelap, “bahkan mungkin dapat merenggut nyawa,” katanya, menurut laporan stasiun televisi tersebut mengenai pernyataannya.
Raja juga menyerukan agar tindakan pengamanan diterapkan sebelum terlambat untuk mengendalikan perkembangan teknologi tersebut, dan mengangkat dampak lingkungan dari pengembangan AI, sebuah topik yang semakin menarik perhatian karena pembangunan pusat data membebani jaringan listrik di banyak negara.
Siapa yang Menghadiri KTT Skotlandia
Daftar tamu dibaca sebagai tokoh-tokoh paling berpengaruh di industri AI. Pesertanya termasuk pendiri dan CEO Nvidia Jensen Huang, pendiri Google DeepMind Demis Hassabis, dan Chief Financial Officer OpenAI Sarah Friar, menurut ABC News. Menteri Kecerdasan Buatan Inggris, Kanishka Narayan, juga hadir.
Huang diundang untuk bertemu dengan Raja untuk membahas mekanisme keselamatan industri, menurut gambar dan keterangan yang didistribusikan oleh Reuters. Pastor Paolo Benanti, penasihat kepausan yang menyerukan pemerintah untuk memperlambat pengembangan AI, juga diharapkan menghadiri diskusi tersebut.
Pemilihan tempat dan penyelenggara itu penting. Kerajaan Inggris tidak mempunyai wewenang untuk mengatur, namun Raja memiliki sejarah panjang dalam keterlibatan publik dalam menangani risiko-risiko teknologi yang muncul, dan pertemuan ini memberikan kesempatan bagi para tokoh paling senior dalam industri ini untuk berdiskusi pada saat seruan untuk melakukan pengawasan semakin meningkat di kedua belah pihak.
Perdebatan Disegarkan Kembali
Pertemuan ini diadakan di tengah kembalinya perdebatan publik mengenai risiko AI. Diskusi ini kembali menjadi sorotan setelah dua peneliti Antropik memperingatkan bahwa kemajuan teknologi yang pesat dapat menyebabkan kepunahan manusia dalam waktu yang tidak lama lagi, komentar yang mendapat liputan luas dan kritik yang setara.
Kepala eksekutif Anthropic Dario Amodei secara terpisah menyerukan perusahaan untuk memperlambat laju pengembangan AI. Paus Leo XIV telah mendesak pemerintah di seluruh dunia untuk memperlambat pengembangan sistem AI dan memitigasi dampak gangguan yang ditimbulkannya, sementara Presiden AS Donald Trump juga melakukan intervensi dalam perdebatan tersebut, menjadikan persoalan tata kelola AI sebagai persoalan politik global dan bukan persoalan teknis semata.
Dengan latar belakang tersebut, muncul kekhawatiran bahwa upaya keselamatan AI masih tertinggal dibandingkan pengembangan sistem yang semakin mumpuni. Dalam beberapa minggu terakhir, perdebatan berpusat pada apakah industri dapat dan harus mengatur dirinya sendiri, dengan para skeptis mempertanyakan apakah para eksekutif yang menyerukan kehati-hatian mungkin memiliki motif tersembunyi, seperti membentuk peraturan yang menjaga keunggulan kompetitif perusahaan tertentu.
Diharapkan Tidak Ada Aturan yang Mengikat
Penyelenggara tidak pernah menganggap pertemuan Skotlandia sebagai sebuah negosiasi. Menurut ABC News, pertemuan tersebut diperkirakan tidak akan menghasilkan kesepakatan yang mengikat. Tujuannya, setidaknya secara nominal, bersifat eksploratif: apakah seperangkat prinsip bersama dapat memandu penerapan AI lintas negara dan industri.
Istana Buckingham mengatakan diskusi tersebut akan mempertimbangkan apakah AI dapat dijadikan pedoman “tidak hanya sebagai pendorong kemampuan dan efisiensi, namun sebagai alat yang menjunjung tinggi martabat manusia dan berkontribusi terhadap kesejahteraan manusia dan planet bumi.”
Pembingkaian tersebut mencerminkan tema yang berulang kali disinggung oleh Raja: bahwa pertanyaannya bukan hanya apakah AI dapat dibuat aman, namun juga untuk apa AI itu seharusnya dibuat. Pernyataan pada hari Kamis mempertajam poin tersebut menjadi peringatan mengenai kepemilikan dan kendali, sebuah penekanan yang sangat berbeda dari ketakutan yang berfokus pada kemampuan yang mendominasi sebagian besar diskusi risiko AI.
Apa yang Terjadi Selanjutnya
KTT ini kemungkinan besar tidak akan menghasilkan kebijakan sendiri, namun hal ini akan menambah momentum pada serangkaian upaya resmi yang sudah berjalan. Inggris telah memposisikan dirinya sebagai penyelenggara keselamatan AI sejak pertemuan puncak AI sebelumnya, dan kehadiran menteri yang berdedikasi untuk kecerdasan buatan menandakan bahwa pemerintah bermaksud untuk tetap terlibat dengan pengembang AI dari AS dan Tiongkok.
Bagi perusahaan-perusahaan yang terlibat, kalkulusnya rumit. Nvidia, DeepMind, dan OpenAI semuanya menghadapi tekanan komersial untuk menghadirkan sistem yang semakin mumpuni, bahkan ketika peneliti mereka menerbitkan peringatan tentang apa yang mungkin terjadi pada sistem tersebut. Panggilan kerajaan tidak menyelesaikan ketegangan tersebut, namun memastikan ketegangan tetap terlihat.
Pesan inti dari sang Raja, yaitu bahwa perlindungan harus dilakukan sebelum teknologi tersebut lepas dari kemampuan siapa pun untuk mengaturnya, muncul pada minggu ketika wacana keselamatan dalam industri menjadi sangat ramai, mulai dari pengungkapan OpenAI atas berbagai insiden keselamatan yang melibatkan modelnya sendiri hingga perselisihan publik yang semakin meningkat antara kepemimpinan AI Microsoft dan Anthropic mengenai bagaimana sistem AI harus dirancang.
Masih harus dilihat apakah pertemuan hari Kamis ini akan menghasilkan sesuatu yang lebih konkrit. Namun dengan para pemimpin pembuat chip paling berharga di dunia dan laboratorium AI paling terkemuka yang duduk di sebuah rumah pedesaan di Skotlandia, sepakat bahwa pertaruhannya sangat besar, perbincangan tentang siapa yang mengendalikan AI, dan untuk keuntungan siapa, telah menjadi terbuka.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
