King Charles III nerbitake bebaya banget babagan "bebaya eksistensial" saka intelijen buatan ing Kamis, ngarahake para eksekutif saka Nvidia, Google DeepMind lan OpenAI sing kumpul ing omah Dumfries House ing Skotlandia kanggo puncak tingkat dhuwur babagan masa depan teknologi kasebut.

Raja kasebut ngandhani para pamimpin industri sing wis dirakit manawa penting banget kanggo ngadhepi risiko sing ditimbulake dening sistem AI sing saya kuat, utamane yen teknologi kasebut bakal dikontrol dening aktor jahat. For more context on this story, see our ongoing more AI stories.

"Ana cepet-cepet nimbang bebaya eksistensial saka teknologi kasebut tiba ing tangan sing salah, lan digunakake kanthi cara sing bisa nyebabake bencana," ujare Raja marang para pimpinan sing padha kumpul ing estate Ayrshire, miturut laporan ABC News lan sawetara toko liyane.

Pesen Ganda: Janji lan Peril

Alamat Sang Prabu dudu penolakan kemul teknologi kasebut. Dheweke ngakoni manawa intelijen buatan duweni potensi sing apik banget, utamane kanggo ilmu urip lan obat-obatan, ing ngendi alat AI tambah akeh digunakake kanggo nyepetake riset lan ningkatake asil pasien.

Nanging dheweke masangake optimisme kasebut kanthi ati-ati manawa para pangripta teknologi kasebut dhewe wis ngelingake manawa sistem canggih bisa ngembangake kapasitas sing luwih peteng, "bisa uga kanggo njupuk urip," ujare, miturut akun penyiar babagan ujare.

Sang Prabu uga njaluk supaya pengamanan ditindakake sadurunge kasep kanggo ngontrol lintasan teknologi, lan nambah pengaruh lingkungan pangembangan AI, topik sing narik kawigaten nalika pusat data mbangun jaringan listrik ing pirang-pirang negara.

Sing Rawuh ing KTT Skotlandia

Dhaptar tamu diwaca minangka bagean salib saka tokoh paling kuat ing industri AI. Para rawuh kalebu pangadeg lan pangareping eksekutif Nvidia Jensen Huang, pangadeg Google DeepMind Demis Hassabis, lan Chief Financial Officer OpenAI Sarah Friar, miturut ABC News. Menteri Inggris kanggo Artificial Intelligence, Kanishka Narayan, uga ana.

Huang diundang kanggo ketemu karo Raja kanggo ngrembug mekanisme safety industri, miturut gambar lan katrangan sing disebarake dening Reuters. Bapa Paolo Benanti, penasihat kepausan sing njaluk pamrentah supaya alon-alon pangembangan AI, uga dijaluk rawuh ing diskusi kasebut.

Pilihan saka panggonan lan convener prakara. Monarki Inggris kaleksanane ora daya peraturan, nanging Sang Prabu wis sajarah dawa saka engagement umum ing risiko teknologi berkembang, lan puncak marang tokoh paling senior ing industri Tabel sambungan ing wayahe nalika telpon kanggo pengawasan intensifying ing loro-lorone saka Atlantik.

Debat diuripake maneh

Rapat kasebut ana ing tengah-tengah debat umum babagan risiko AI. Diskusi kasebut diluncurake maneh sawise rong peneliti Anthropic ngelingake manawa teknologi sing maju kanthi cepet bisa nyebabake kepunahan manungsa ing mangsa ngarep sing ora adoh banget, komentar sing narik jangkoan lan kritik kanthi ukuran sing padha.

Kepala eksekutif Anthropic Dario Amodei wis njaluk perusahaan supaya alon-alon pangembangan AI. Paus Leo XIV njaluk pamrentah ing saindenging jagad supaya alon-alon pangembangan sistem AI lan nyuda efek sing ngganggu, dene Presiden AS Donald Trump uga campur tangan ing debat kasebut, nggawe pitakonan babagan pamrentahan AI minangka masalah politik sing sejatine global tinimbang masalah teknis.

Kanthi latar mburi kasebut, keprihatinan saya tambah akeh manawa upaya keamanan AI isih ketinggalan ing pangembangan sistem sing luwih apik. Ing sawetara minggu kepungkur, debat wis fokus ing apa industri bisa lan kudu ngatur dhewe, karo skeptics pitakonan apa eksekutif sing njaluk ati-ati bisa duwe motif ulterior, kayata mbentuk aturan sing ngreksa timbal competitive saka perusahaan tartamtu.

Ora Ana Aturan Binding samesthine

Penyelenggara ora nate nggawe rapat Skotlandia minangka negosiasi. Miturut ABC News, rapat kasebut ora samesthine bakal ngasilake perjanjian sing mengikat. Tujuane, paling ora sacara nominal, yaiku eksplorasi: apa prinsip sing dienggo bareng bisa nuntun cara AI ditrapake ing wates lan industri.

Istana Buckingham ujar manawa diskusi kasebut bakal nimbang apa AI bisa dipandu "ora mung minangka pembalap kapabilitas lan efisiensi, nanging minangka alat sing njunjung martabat manungsa lan nyumbang kanggo pangembangan manungsa lan planet."

Framing kasebut nggambarake tema sing wis bola-bali bali menyang Raja: pitakonan kasebut ora mung apa AI bisa digawe kanthi aman, nanging apa sing kudu ditindakake. Cathetan dina Kamis ngasah titik kasebut dadi peringatan babagan kepemilikan lan kontrol, penekanan sing beda karo rasa wedi sing fokus ing kemampuan sing ndominasi diskusi risiko AI.

Apa Kelakon Sabanjure

KTT kasebut ora bisa ngasilake kabijakan dhewe, nanging nambah semangat kanggo sawetara upaya resmi sing wis ditindakake. Inggris wis posisi dhewe minangka convener ing safety AI wiwit AI sadurunge puncak AI, lan ngarsane menteri darmabakti kanggo sinyal intelijen buatan sing pemerintah arep tetep melu karo loro pangembang AI AS lan China.

Kanggo perusahaan ing kamar, kalkulus iku alus. Nvidia, DeepMind lan OpenAI kabeh ngadhepi tekanan komersial kanggo ngirim sistem sing luwih bisa, sanajan peneliti dhewe nerbitake bebaya babagan apa sing bisa ditindakake dening sistem kasebut. Panggilan kraton ora ngrampungake ketegangan kasebut, nanging njamin ketegangan kasebut tetep katon.

Pesen inti Sang Prabu, yen pangayoman kudu teka sadurunge teknologi bisa lolos saka kemampuan sapa wae kanggo ngatur, ndharat ing seminggu nalika wacana safety industri wis banter banget, saka pambocoran OpenAI babagan macem-macem insiden safety sing nglibatake model dhewe menyang perselisihan umum sing saya tambah antarane pimpinan AI Microsoft lan Anthropic babagan carane sistem AI kudu dirancang.

Apa kumpul dina Kamis dadi luwih konkrit isih kudu dideleng. Nanging karo pimpinan saka chipmaker paling terkenal ing donya lan lab AI paling misuwur lungguh ing omah negara Scottish, sarujuk ing minimal sing totoan iku eksistensial, obrolan bab sing kontrol AI, lan kanggo entuk manfaat, wis dipindhah decisively menyang mbukak.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →