Raja Charles III akan memanggil pemimpin syarikat kecerdasan buatan yang paling terkemuka di dunia di Scotland, bertanya kepada mereka bagaimana teknologi itu boleh dibangunkan "untuk kebaikan manusia," menurut laporan The Sunday Times yang dibawa oleh The Independent. Pertemuan itu membawa raja British bersemuka dengan eksekutif dari Nvidia, Anthropic, Google DeepMind dan OpenAI pada saat pemimpin industri itu sendiri berdebat secara terbuka sama ada pembangunan harus perlahan.
The New York Times merangka perhimpunan dengan cara yang sama: Raja akan mengadakan pemimpin AI di tengah-tengah seruan untuk memperlahankan pembangunan, memberikan perbahasan yang pantas sebagai peringkat upacara yang jelas hanya dua hari selepas esei Ketua Pegawai Eksekutif Anthropic Dario Amodei yang menggesa industri untuk mengutamakan keselamatan daripada kepantasan. For more context on this story, see our ongoing AI news.
Siapa Yang Menghadiri
Menurut laporan The Sunday Times yang dipetik oleh The Independent, mereka yang difahamkan akan hadir termasuk ketua eksekutif Nvidia Jensen Huang, pengasas Google DeepMind Sir Demis Hassabis, dan Niccolo de Masi, pengerusi dan ketua eksekutif syarikat pengkomputeran kuantum IonQ. Pemimpin dari Anthropic dan OpenAI juga dijangka menjadi sebahagian daripada perbincangan.
Seorang peserta menonjol daripada senarai korporat: Monsignor Paolo Benanti, ahli teologi Franciscan yang berkhidmat sebagai penasihat Paus mengenai kecerdasan buatan dan etika teknologi. Kehadirannya menandakan bahawa cita-cita sidang kemuncak itu melangkaui dasar produk kepada persoalan maruah manusia — wilayah yang telah dikuasai oleh Vatican sejak advokasi awal Rom untuk rangka kerja etika AI antarabangsa.
'Neutral Convenor' Dengan Playbook yang Biasa
Sumber diraja memberitahu akhbar itu bahawa Raja berhasrat untuk memainkan peranan yang telah diperhalusinya selama berdekad-dekad advokasi alam sekitar. "Raja berada di sana untuk bersidang, mendengar dan menggalakkan perbincangan itu dan mengemukakan persoalan: 'Bagaimana kita membangunkan AI untuk kebaikan manusia?'" kata sumber itu, menggambarkan selari langsung dengan kerja Charles yang telah lama berjalan mengenai alam sekitar dan kekurangan air.
Menurut sumber itu, Raja berharap perbincangan itu menghasilkan "pemahaman yang lebih luas tentang tanggungjawab membangunkan teknologi ini, serta peluang, memastikan sebarang pembangunan teknologi kekal tertumpu kepada manfaat manusia untuk masyarakat." Dia juga merancang untuk menimbulkan persoalan konkrit: sama ada ia akan membantu untuk mewujudkan set prinsip bersama untuk teknologi itu. “Perasaannya ia bukan perkara yang mudah untuk dilakukan, tetapi itu tidak bermakna kita tidak perlu mencuba,” tambah sumber itu.
Rumusan itu penting. Charles tidak merundingkan peraturan dan tidak memegang kuasa perundangan. Apa yang beliau tawarkan ialah apa yang disifatkan oleh The News International sebagai postur "konvenor neutral" — seorang tokoh yang mempunyai kedudukan yang cukup untuk mengumpulkan eksekutif saingan di sekeliling satu meja tanpa sesiapa yang menyerahkan kelebihan daya saing dengan muncul.
Piagam Ditchley
Acara itu akan diawasi oleh Yayasan Ditchley, organisasi Anglo-Amerika yang telah lama menganjurkan retret luar rekod untuk pemimpin dalam politik, perniagaan dan sains. Yayasan itu telah merangka draf piagam untuk pemimpin AI, menurut The Sunday Times.
Piagam itu difahamkan mengandungi "set prinsip bersama" yang akan "membantu membimbing penggunaan AI pada masa hadapan, bukan sahaja sebagai pemacu keupayaan dan kecekapan, tetapi sebagai alat yang menegakkan maruah manusia dan menyumbang kepada perkembangan kedua-dua manusia dan planet ini."
Bahasa itu sengaja berjauhan daripada perbendaharaan kata tertumpu kepada pematuhan Akta AI EU atau rangka kerja ujian sukarela yang beredar di Washington. Sama ada ia lebih daripada retorik akan bergantung pada perkara yang dipersetujui oleh eksekutif untuk menyokong — dan sama ada mana-mana daripadanya dapat bertahan dalam hubungan dengan realiti komersial.
Masa Sempurna, melalui Kemalangan atau Reka Bentuk
Sidang kemuncak itu mendarat pada pertengahan minggu paling penting yang dialami oleh industri AI tahun ini. Esei Amodei, yang diterbitkan pada hari Sabtu, memberi amaran bahawa AI telah "memajukan secara drastik lebih pantas" sejak musim panas dan berhujah bahawa dalam tempoh enam hingga dua belas bulan, segerombolan ejen penyangak boleh menimbulkan risiko berskala internet. Panggilannya mendapat sokongan daripada pihak yang tidak dijangka - Elon Musk menulis bahawa "Dario betul," dan Sam Altman dari OpenAI telah menyokong ujian bebas - manakala Presiden Trump menolak kelembapan secara langsung, menunjuk kepada persaingan dengan China.
Dengan latar belakang itu, desakan istana bahawa sidang kemuncak itu bukan tentang memperlahankan apa-apa yang dibaca sebagai kedudukan yang berhati-hati. Soalan Raja — bagaimana untuk membangunkan AI untuk kebaikan manusia — mengetepikan pertarungan yang pantas sepenuhnya sambil secara tersirat menyokong premisnya: bahawa trajektori teknologi adalah soal pilihan manusia secara kolektif, bukan tidak dapat dielakkan.
Britain telah berada di sini sebelum ini. Sidang kemuncak Bletchley Park AI pada tahun 2023, yang diadakan oleh kerajaan UK, menghasilkan pengisytiharan multinasional pertama mengenai risiko AI sempadan dan menetapkan corak pengumpulan makmal saingan untuk pergelutan tangan secara kolektif. Apa yang membezakan perhimpunan Scotland ialah penganjurnya: seorang ketua negara tanpa kuasa kawal selia, tiada kitaran pilihan raya dan, pada dasarnya, tiada kepentingan dalam syarikat yang menang.
Perkara yang Boleh dan Tidak Boleh Lakukan Sidang Kemuncak
Tiada kenyataan dari pengunduran diraja akan menghalang apa yang Nvidia, Anthropic, DeepMind atau OpenAI dihantar pada suku ini. Jika perhimpunan itu menghasilkan piagam prinsip yang disahkan, mekanisme penguatkuasaannya akan menjadi reputasi — yang, dalam industri yang sedang berlumba-lumba untuk menunjukkan keseriusan keselamatan selepas seminggu berita utama hari kiamat, mungkin bernilai lebih daripada biasa.
The New York Times menyatakan bahawa pertemuan itu diadakan di tengah-tengah perdebatan yang lebih luas mengenai senario kiamat superintelligence yang telah mengambil perhatian industri. Bagi Charles, yang telah menghabiskan lima dekad menggunakan platformnya untuk mengadakan sekutu yang tidak mungkin untuk risiko jangka panjang, AI hanyalah bab yang terbaru - dan mungkin paling penting -. Sama ada dorongan moral raja boleh menggerakkan syarikat yang bernilai dalam trilion adalah persoalan terbuka. Bahawa syarikat bersetuju untuk datang sama sekali mengatakan sesuatu tentang sejauh mana industri kini mahu dilihat bertanya soalan yang sama.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
