DeepSeek permulaan AI China akan menjadi antara syarikat yang memberi taklimat kepada Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu minggu ini mengenai risiko yang ditimbulkan oleh kecerdasan buatan, dua sumber yang biasa dengan perkara itu memberitahu Reuters, ketika para pemimpin dunia berkumpul di New York untuk Perhimpunan Agung PBB tahunan.
Majlis Keselamatan 15 anggota ditetapkan untuk bermesyuarat pada 23 September untuk membincangkan AI dan keselamatan antarabangsa — beberapa minggu selepas beberapa pemimpin industri AI menyeru agar penyelarasan perlahan pembangunan sistem AI yang semakin berkuasa, memberi amaran bahawa mereka tidak lama lagi boleh bertambah baik sendiri dan tergelincir di luar kawalan manusia. Untuk lebih banyak konteks tentang cerita ini, lihat [liputan industri AI] kami yang berterusan (https://aibuzzwire.news).
Siapa Akan Berada di dalam Bilik
Ketua eksekutif OpenAI Sam Altman merancang untuk memberi taklimat kepada mesyuarat itu, di mana para diplomat juga mengharapkan penyertaan daripada wakil kanan Anthropic, lapor Reuters minggu lalu.
Di pihak China, DeepSeek dan firma AI China lain, termasuk Moonshot, telah dijemput untuk membuat kenyataan, kata salah satu sumber. Pengasas DeepSeek Liang Wenfeng tidak bercadang untuk hadir, sumber itu memberi amaran, sambil menyatakan bahawa rancangan kekal lancar dan boleh berubah pada saat-saat akhir. DeepSeek dan Moonshot tidak segera menjawab permintaan untuk komen.
Sesi berlangsung selama seminggu apabila New York sudah sesak dengan diplomasi AI, ketika para pemimpin dunia berkumpul untuk Perhimpunan Agung PBB tahunan dan mesyuarat sampingan bertambah banyak di sekelilingnya. Masa itu mengurangkan kedua-dua cara untuk DeepSeek: imprimatur majlis memberi isyarat bahawa makmal terkemuka China kini dianggap sebagai suara yang sangat diperlukan dalam risiko AI sempadan, walaupun kedudukan rasmi Beijing terus menolak retorik kelembapan yang muncul dari Silicon Valley.
Barisan luar biasa — eksekutif AI paling terkemuka di Amerika berkongsi agenda Majlis Keselamatan dengan makmal berat terbuka yang paling terkenal di China — menjadikan sesi hari Rabu sebagai mesyuarat AI paling penting yang telah diadakan oleh majlis itu sejak pertama kali membincangkan perkara itu.
Daripada 'Runaway Horse' kepada Rogue AI
Majlis Keselamatan PBB, yang dipertanggungjawabkan untuk mengekalkan keamanan dan keselamatan antarabangsa, bertemu buat pertama kali mengenai risiko AI pada 2023. Walaupun begitu, garis kerosakan dapat dilihat: China memberi amaran bahawa teknologi itu tidak seharusnya menjadi "kuda yang melarikan diri," manakala Amerika Syarikat memberi amaran terhadap penggunaannya untuk menapis atau menindas orang ramai.
Tiga tahun kemudian, perbahasan telah beralih daripada hipotetikal kepada laporan insiden. Setiausaha Agung PBB Antonio Guterres memberi amaran kepada para pemimpin dunia minggu lalu bahawa kemajuan pesat AI menimbulkan risiko yang tidak boleh diabaikan, meletakkan beliau bertentangan dengan Presiden AS Donald Trump, yang berpendapat bahawa perlindungan sedia ada adalah mencukupi dan bahawa China akan mendapat manfaat daripada keraguan yang dilemparkan ke atas pembangunan AI.
Beijing Berdiam diri terhadap Risiko Malapetaka
Salah satu pemerhatian yang lebih jelas dalam laporan Reuters membimbangkan apa yang tidak dikatakan oleh pemimpin makmal China. Tidak seperti ketua makmal sempadan AS seperti OpenAI dan Anthropic, pemimpin pembangun model terkemuka China jarang menyatakan secara terbuka kemungkinan bahawa sistem AI yang semakin berkebolehan boleh menipu manusia, mengelak kawalan, atau menyebabkan kemudaratan yang besar — dan mereka sebahagian besarnya berdiam diri mengenai risiko tersebut sejak perdebatan semakin sengit di Amerika Syarikat pada bulan September.
Media negara China, bagi pihak mereka, telah menolak seruan untuk kelembapan dalam pembangunan AI sebagai berpunca daripada "buku permainan Perang Dingin" - satu usaha, dalam kata Beijing, bertujuan untuk mengekalkan dominasi Washington dalam teknologi canggih dan mengecualikan Beijing daripada sistem tadbir urus AI global sepenuhnya.
Oleh itu, kemunculan DeepSeek di majlis itu membawa kepentingan berganda: ia pada masa yang sama penglibatan Beijing yang paling ketara lagi dengan perbualan risiko AI global dan ujian sama ada makmal China akan terlibat dengan pembingkaian risiko bencana sama sekali.
Ceramah Menjelang Trump-Xi
Sesi Majlis Keselamatan tidak berdiri sendiri. Pegawai kanan AS dan China bersetuju untuk mengadakan perbincangan lanjut mengenai keselamatan AI, kata Setiausaha Perbendaharaan AS Scott Bessent pada 21 September, selepas bertemu menjelang rundingan dijadualkan Trump dengan Presiden China Xi Jinping akhir minggu ini di Washington.
Penjujukan itu - sidang kemuncak berkepentingan tinggi di Washington selari dengan perbahasan Majlis Keselamatan di New York - menggariskan betapa teliti AI telah berpindah daripada fail dasar teknikal ke pusat hubungan dua hala.
Perkara yang Perlu Dilihat
Tiga soalan tergantung pada mesyuarat hari Rabu. Sama ada Liang Wenfeng berubah fikiran dan hadir. Sama ada kenyataan DeepSeek melibatkan risiko dek kad — penipuan, kehilangan kawalan — yang ditekankan oleh rakan sejawatannya dari Amerika, atau kekal di landasan yang lebih selamat untuk akses yang saksama dan hak pembangunan. Dan sama ada majlis boleh menghasilkan apa-apa di luar kedudukan biasa.
Rekod majlis tentang AI adalah tipis: mesyuarat pertama pada 2023, amaran setiausaha agung bulan ini, dan tiada rangka kerja yang mengikat. Tetapi sebagai peringkat untuk pertikaian AS-China yang baru muncul mengenai siapa yang menetapkan peraturan untuk AI sempadan - dan ketakutannya diambil serius - ia mempunyai beberapa saingan.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
