Raja Charles III akan bertemu dengan para pemimpin perusahaan kecerdasan buatan paling terkemuka di dunia di Skotlandia, menanyakan kepada mereka bagaimana teknologi tersebut dapat dikembangkan "demi kebaikan umat manusia," menurut laporan The Sunday Times yang dimuat oleh The Independent. Pertemuan tersebut mempertemukan raja Inggris dengan para eksekutif dari Nvidia, Anthropic, Google DeepMind dan OpenAI pada saat para pemimpin industri sedang berdebat secara terbuka apakah pembangunan harus melambat.
The New York Times membingkai pertemuan tersebut dengan cara yang sama: Raja akan mengumpulkan para pemimpin AI di tengah seruan untuk memperlambat pembangunan, menjadikan perdebatan tentang kecepatan ini sebagai tahap seremonial hanya dua hari setelah esai CEO Anthropic Dario Amodei yang mendesak industri untuk menempatkan keselamatan di atas kecepatan. For more context on this story, see our ongoing AI trends.
Siapa yang Hadir
Menurut laporan The Sunday Times yang dikutip oleh The Independent, mereka yang diketahui akan hadir termasuk CEO Nvidia Jensen Huang, pendiri Google DeepMind Sir Demis Hassabis, dan Niccolo de Masi, ketua dan CEO perusahaan komputasi kuantum IonQ. Para pemimpin dari Anthropic dan OpenAI juga diharapkan menjadi bagian dari diskusi.
Salah satu peserta yang menonjol dari daftar perusahaan adalah Monsinyur Paolo Benanti, teolog Fransiskan yang menjabat sebagai penasihat Paus mengenai kecerdasan buatan dan etika teknologi. Kehadirannya menandakan bahwa ambisi KTT tersebut melampaui kebijakan produk dan juga persoalan martabat manusia – wilayah yang telah dikuasai Vatikan sejak awal advokasi Roma untuk kerangka etika AI internasional.
'Penyelenggara Netral' dengan Pedoman yang Dikenal
Sumber kerajaan mengatakan kepada surat kabar tersebut bahwa Raja berniat memainkan peran yang telah ia sempurnakan selama beberapa dekade dalam advokasi lingkungan hidup. “Raja berada di sana untuk berkumpul, mendengarkan dan mendorong diskusi tersebut dan mengajukan pertanyaan: 'Bagaimana kita mengembangkan AI demi kebaikan umat manusia?'” kata sumber tersebut, yang menggambarkan hal ini secara paralel dengan pekerjaan Charles yang telah lama dilakukan di bidang lingkungan dan kelangkaan air.
Menurut sumber tersebut, Raja berharap diskusi ini menghasilkan "pemahaman yang lebih luas mengenai tanggung jawab pengembangan teknologi ini, serta peluangnya, memastikan setiap pengembangan teknologi tetap berpusat pada manfaat manusia bagi masyarakat." Dia juga berencana untuk mengajukan pertanyaan konkrit: apakah akan bermanfaat jika menetapkan seperangkat prinsip bersama untuk teknologi ini. "Perasaannya memang bukan hal yang mudah untuk dilakukan, tapi bukan berarti kita tidak boleh mencobanya," tambah sumber tersebut.
Formulasinya penting. Charles tidak menegosiasikan peraturan dan tidak memegang kekuasaan legislatif. Apa yang dia tawarkan adalah apa yang The News International gambarkan sebagai sikap "penyelenggara netral" - sosok yang memiliki kedudukan yang cukup untuk mengumpulkan para eksekutif saingan dalam satu meja tanpa ada seorang pun yang melepaskan keunggulan kompetitifnya dengan hadir.
Piagam Ditchley
Acara ini akan diawasi oleh Ditchley Foundation, organisasi Anglo-Amerika yang telah lama menyelenggarakan retret rahasia bagi para pemimpin di bidang politik, bisnis, dan sains. Yayasan tersebut telah menyusun rancangan piagam untuk para pemimpin AI, menurut The Sunday Times.
Piagam tersebut dipahami mencakup “seperangkat prinsip bersama” yang akan “membantu memandu penerapan AI di masa depan, tidak hanya sebagai pendorong kemampuan dan efisiensi, namun sebagai alat yang menjunjung tinggi martabat manusia dan berkontribusi terhadap kesejahteraan manusia dan planet bumi.”
Pernyataan tersebut sengaja dijauhkan dari kosakata yang berfokus pada kepatuhan pada UU AI UE atau kerangka pengujian sukarela yang beredar di Washington. Apakah hal tersebut lebih dari sekedar retorika akan bergantung pada apa yang disetujui oleh para eksekutif – dan apakah hal tersebut dapat bertahan dari kenyataan komersial.
Waktu yang Tepat, Karena Kecelakaan atau Desain
Pertemuan puncak ini diadakan di tengah-tengah minggu paling penting yang dialami industri AI pada tahun ini. Esai Amodei, yang diterbitkan pada hari Sabtu, memperingatkan bahwa AI telah “berkembang jauh lebih cepat” sejak musim panas dan berpendapat bahwa dalam waktu enam hingga dua belas bulan, kawanan agen jahat dapat menimbulkan risiko sebesar internet. Seruannya mendapat dukungan dari pihak-pihak yang tidak terduga – Elon Musk menulis bahwa “Dario benar,” dan Sam Altman dari OpenAI mendukung pengujian independen – sementara Presiden Trump langsung menolak kerangka perlambatan tersebut, dengan menunjuk pada persaingan dengan Tiongkok.
Dengan latar belakang tersebut, desakan istana bahwa KTT tersebut bukan tentang memperlambat apa pun dapat dianggap sebagai sikap hati-hati. Pertanyaan Raja – bagaimana mengembangkan AI demi kebaikan umat manusia – sepenuhnya mengesampingkan persaingan yang ada dan secara implisit mendukung premisnya: bahwa perkembangan teknologi adalah masalah pilihan kolektif manusia, bukan keniscayaan.
Inggris sudah pernah ke sini sebelumnya. KTT AI Bletchley Park pada tahun 2023, yang diselenggarakan oleh pemerintah Inggris, menghasilkan deklarasi multinasional pertama mengenai risiko AI di garis depan dan menetapkan pola pengumpulan laboratorium saingan untuk melakukan upaya kolektif. Apa yang membedakan pertemuan di Skotlandia ini adalah penyelenggaranya: seorang kepala negara yang tidak memiliki wewenang untuk mengatur, tidak memiliki siklus pemilu, dan, pada prinsipnya, tidak memiliki kepentingan di mana perusahaan akan menang.
Apa yang Dapat dan Tidak Dapat Dilakukan oleh KTT
Tidak ada komunike dari retret kerajaan yang akan membatasi apa yang dikirimkan Nvidia, Anthropic, DeepMind, atau OpenAI pada kuartal ini. Jika pertemuan tersebut menghasilkan piagam prinsip yang didukung, mekanisme penegakannya akan berdampak pada reputasi – yang, dalam industri yang saat ini berlomba untuk menunjukkan keseriusan keselamatan setelah seminggu menjadi berita utama mengenai hari kiamat, mungkin bernilai lebih dari biasanya.
The New York Times mencatat bahwa pertemuan tersebut terjadi di tengah perdebatan yang lebih luas mengenai skenario hari kiamat superintelijen yang telah menyita perhatian industri. Bagi Charles, yang telah menghabiskan lima dekade menggunakan platformnya untuk mengumpulkan sekutu yang tidak terduga mengenai risiko jangka panjang, AI hanyalah babak terbaru – dan mungkin paling penting –. Apakah bujukan moral seorang raja dapat menggerakkan perusahaan bernilai triliunan masih menjadi pertanyaan terbuka. Bahwa perusahaan-perusahaan tersebut setuju untuk hadir menunjukkan betapa besarnya industri saat ini ingin terlihat menanyakan pertanyaan yang sama.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
