Raja Charles III mengeluarkan amaran keras tentang "bahaya kewujudan" kecerdasan buatan pada hari Khamis, menangani eksekutif dari Nvidia, Google DeepMind dan OpenAI yang berkumpul di estet Dumfries House di Scotland untuk sidang kemuncak peringkat tinggi mengenai masa depan teknologi itu.
Raja memberitahu pemimpin industri yang berhimpun terdapat keperluan mendesak dalam menghadapi risiko yang ditimbulkan oleh sistem AI yang semakin berkuasa, terutamanya jika teknologi itu akhirnya dikawal oleh pelakon yang berniat jahat. For more context on this story, see our ongoing AI trends.
"Nampaknya terdapat keperluan mendesak untuk mempertimbangkan dengan secukupnya bahaya wujud teknologi sedemikian jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi membawa bencana," kata Raja kepada pemimpin yang berkumpul di estet Ayrshire, menurut laporan ABC News dan beberapa cawangan lain.
Mesej Duaan: Janji dan Bahaya
Alamat Raja bukanlah penolakan sepenuhnya terhadap teknologi itu. Dia mengakui bahawa kecerdasan buatan membawa potensi yang besar untuk kebaikan, khususnya merujuk kepada sains hayat dan perubatan, di mana alat AI semakin digunakan untuk mempercepatkan penyelidikan dan meningkatkan hasil pesakit.
Tetapi dia memasangkan keyakinan itu dengan berhati-hati bahawa pencipta teknologi itu sendiri telah semakin memberi amaran bahawa sistem canggih boleh membangunkan kapasiti yang lebih gelap, "mungkin juga untuk meragut nyawa," katanya, menurut akaun penyiar mengenai kenyataannya.
Raja juga menyeru agar perlindungan dilaksanakan sebelum terlambat untuk mengawal trajektori teknologi, dan meningkatkan kesan alam sekitar pembangunan AI, topik yang telah menarik perhatian yang semakin meningkat apabila pusat data membina grid kuasa di beberapa negara.
Siapa yang Menghadiri Sidang Kemuncak Scotland
Senarai tetamu dibaca sebagai keratan rentas tokoh industri AI yang paling berkuasa. Para hadirin termasuk pengasas dan ketua eksekutif Nvidia Jensen Huang, pengasas Google DeepMind Demis Hassabis, dan Ketua Pegawai Kewangan OpenAI Sarah Friar, menurut ABC News. Menteri Kepintaran Buatan Britain, Kanishka Narayan, turut hadir.
Huang telah dijemput untuk bertemu dengan Raja untuk membincangkan mekanisme keselamatan industri, menurut imej dan kapsyen yang diedarkan oleh Reuters. Bapa Paolo Benanti, seorang penasihat paus yang telah menyeru agar kerajaan memperlahankan pembangunan AI, juga dijangka menghadiri perbincangan itu.
Pilihan tempat dan konvener adalah penting. Monarki British tidak mempunyai kuasa pengawalseliaan, tetapi Raja mempunyai sejarah panjang penglibatan awam mengenai risiko teknologi yang baru muncul, dan sidang kemuncak itu memberikan meja kongsi kepada tokoh paling kanan industri itu pada ketika seruan untuk pengawasan semakin meningkat di kedua-dua belah Atlantik.
Perbahasan Dirancakkan Semula
Perhimpunan itu diadakan di tengah-tengah pembaharuan perdebatan awam mengenai risiko AI. Perbincangan itu kembali menjadi tumpuan selepas dua penyelidik Anthropic memberi amaran bahawa teknologi yang pesat membangun boleh membawa kepada kepupusan manusia dalam masa yang tidak terlalu lama, komen yang mendapat liputan dan kritikan yang meluas dalam ukuran yang sama.
Ketua eksekutif Anthropic Dario Amodei secara berasingan meminta syarikat memperlahankan kadar pembangunan AI. Pope Leo XIV telah menggesa kerajaan di seluruh dunia untuk memperlahankan pembangunan sistem AI dan mengurangkan kesan gangguan mereka, manakala Presiden AS Donald Trump turut campur tangan dalam perdebatan, menjadikan persoalan tadbir urus AI sebagai isu politik global yang sebenar dan bukannya teknikal semata-mata.
Berdasarkan latar belakang itu, kebimbangan semakin meningkat bahawa usaha keselamatan AI ketinggalan di belakang pembangunan sistem yang semakin berkebolehan. Dalam beberapa minggu kebelakangan ini, perdebatan tertumpu pada sama ada industri boleh dan harus mengawal dirinya sendiri, dengan skeptik mempersoalkan sama ada eksekutif yang meminta berhati-hati mungkin mempunyai motif tersembunyi, seperti membentuk peraturan yang mengekalkan peneraju daya saing syarikat tertentu.
Tiada Peraturan Mengikat Dijangka
Penganjur tidak pernah merangka mesyuarat Scotland sebagai rundingan. Menurut ABC News, pertemuan itu dijangka tidak menghasilkan sebarang perjanjian yang mengikat. Tujuannya, sekurang-kurangnya secara nominal, adalah penerokaan: sama ada set prinsip yang dikongsi boleh membimbing cara AI digunakan merentasi sempadan dan industri.
Istana Buckingham berkata perbincangan itu akan mempertimbangkan sama ada AI boleh dibimbing "bukan semata-mata sebagai pemacu keupayaan dan kecekapan, tetapi sebagai alat yang menegakkan maruah manusia dan menyumbang kepada perkembangan kedua-dua manusia dan planet ini."
Pembingkaian itu mencerminkan tema yang telah diulangi Raja berulang kali: persoalannya bukan sahaja sama ada AI boleh dibuat selamat, tetapi untuk apa ia sepatutnya. Kenyataan hari Khamis menajamkan perkara itu kepada amaran tentang pemilikan dan kawalan, penekanan yang amat berbeza daripada kebimbangan berfokuskan keupayaan yang mendominasi kebanyakan perbincangan risiko AI.
Apa Yang Berlaku Seterusnya
Sidang kemuncak itu tidak mungkin menghasilkan dasar sendiri, tetapi ia menambah momentum kepada siri usaha rasmi yang sedang dijalankan. United Kingdom telah meletakkan dirinya sebagai konvener mengenai keselamatan AI sejak sidang kemuncak AI yang lebih awal, dan kehadiran menteri berdedikasi untuk isyarat kecerdasan buatan bahawa kerajaan berhasrat untuk terus terlibat dengan pembangun AI AS dan China.
Bagi syarikat di dalam bilik, kalkulus adalah halus. Nvidia, DeepMind dan OpenAI semuanya menghadapi tekanan komersial untuk menghantar sistem yang semakin berkebolehan, walaupun penyelidik mereka sendiri menerbitkan amaran tentang perkara yang mungkin dilakukan oleh sistem tersebut. Panggilan diraja tidak menyelesaikan ketegangan itu, tetapi ia memastikan ketegangan kekal kelihatan.
Mesej teras Raja, bahawa perlindungan mesti tiba sebelum teknologi itu terlepas dari kemampuan sesiapa untuk mentadbirnya, tiba dalam seminggu apabila wacana keselamatan industri menjadi sangat lantang, daripada pendedahan OpenAI tentang pelbagai insiden keselamatan yang melibatkan modelnya sendiri kepada pertikaian awam yang semakin meningkat antara kepimpinan AI Microsoft dan Anthropic mengenai cara sistem AI harus direka bentuk.
Sama ada perhimpunan hari Khamis diterjemahkan kepada sesuatu yang lebih konkrit masih perlu dilihat. Tetapi dengan pemimpin pembuat cip yang paling berharga di dunia dan makmal AI yang paling terkemuka duduk di rumah desa Scotland, bersetuju sekurang-kurangnya bahawa kepentingan itu wujud, perbualan tentang siapa yang mengawal AI, dan untuk kepentingan siapa, telah bergerak secara tegas ke tempat terbuka.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
