Startup AI asal Tiongkok, DeepSeek, akan menjadi salah satu perusahaan yang memberikan pengarahan kepada Dewan Keamanan PBB minggu ini mengenai risiko yang ditimbulkan oleh kecerdasan buatan, kata dua sumber yang mengetahui masalah tersebut kepada Reuters, saat para pemimpin dunia berkumpul di New York untuk menghadiri Sidang Umum tahunan PBB.
Dewan Keamanan yang beranggotakan 15 orang akan bertemu pada tanggal 23 September untuk membahas AI dan keamanan internasional – beberapa minggu setelah beberapa pemimpin industri AI menyerukan perlambatan terkoordinasi terhadap pengembangan sistem AI yang semakin kuat, dan memperingatkan bahwa sistem tersebut akan segera berkembang dengan sendirinya dan tidak dapat dikendalikan oleh manusia. Untuk konteks lebih lanjut mengenai kisah ini, lihat liputan industri AI kami yang sedang berlangsung.
Siapa yang Akan Berada di Ruangan
Kepala eksekutif OpenAI Sam Altman berencana untuk memberi pengarahan pada pertemuan tersebut, di mana para diplomat juga mengharapkan partisipasi dari perwakilan senior Anthropic, Reuters melaporkan pekan lalu.
Di pihak Tiongkok, DeepSeek dan perusahaan AI Tiongkok lainnya, termasuk Moonshot, telah diundang untuk membuat pernyataan, kata salah satu sumber. Pendiri DeepSeek, Liang Wenfeng, tidak berencana untuk hadir, sumber tersebut memperingatkan, dan mencatat bahwa rencana tersebut masih berubah-ubah dan dapat berubah pada menit-menit terakhir. DeepSeek dan Moonshot tidak segera menanggapi permintaan komentar.
Sesi ini berlangsung selama seminggu ketika New York sudah dipenuhi dengan diplomasi AI, ketika para pemimpin dunia berkumpul untuk Sidang Umum PBB tahunan dan semakin banyak pertemuan sampingan di sekitar Sidang Umum tersebut. Waktu tersebut berdampak pada DeepSeek: keputusan dewan memberikan sinyal bahwa laboratorium-laboratorium terkemuka di Tiongkok kini diperlakukan sebagai suara yang sangat diperlukan dalam menghadapi risiko AI, bahkan ketika posisi resmi Beijing terus menolak retorika perlambatan yang muncul dari Silicon Valley.
Susunan peserta yang tidak biasa ini – eksekutif AI paling terkemuka di Amerika yang berbagi agenda Dewan Keamanan dengan laboratorium open-weight paling terkenal di Tiongkok – menjadikan sesi hari Rabu ini sebagai pertemuan AI paling penting yang pernah diadakan dewan tersebut sejak pertama kali membahas topik tersebut.
Dari 'Kuda Pelarian' menjadi Rogue AI
Dewan Keamanan PBB, yang bertugas menjaga perdamaian dan keamanan internasional, bertemu untuk pertama kalinya mengenai risiko AI pada tahun 2023. Meski begitu, kelemahannya masih terlihat: Tiongkok memperingatkan bahwa teknologi tersebut tidak boleh menjadi “kuda yang melarikan diri”, sementara Amerika Serikat memperingatkan agar tidak digunakan untuk menyensor atau menindas masyarakat.
Tiga tahun kemudian, perdebatan beralih dari hipotesis ke laporan insiden. Sekretaris Jenderal PBB Antonio Guterres pekan lalu memperingatkan para pemimpin dunia bahwa kemajuan pesat AI menimbulkan risiko yang tidak dapat diabaikan, sehingga membuatnya berselisih dengan Presiden AS Donald Trump, yang berargumentasi bahwa upaya perlindungan yang ada sudah memadai dan bahwa Tiongkok akan mendapat manfaat dari keraguan terhadap pengembangan AI.
Keheningan Publik Beijing terhadap Risiko Bencana
Salah satu pengamatan yang lebih tajam dalam laporan Reuters berkaitan dengan apa yang tidak diungkapkan oleh para pemimpin laboratorium Tiongkok. Berbeda dengan para pemimpin laboratorium terdepan di AS seperti OpenAI dan Anthropic, para pemimpin pengembang model ternama di Tiongkok jarang mengungkapkan secara terbuka kemungkinan bahwa sistem AI yang semakin mampu dapat menipu manusia, menghindari kendali, atau menyebabkan bencana besar – dan mereka sebagian besar tetap diam mengenai risiko-risiko tersebut sejak perdebatan semakin intensif di Amerika Serikat pada bulan September.
Media pemerintah Tiongkok, pada bagiannya, telah menolak seruan untuk memperlambat pengembangan AI karena dianggap berasal dari “pedoman Perang Dingin” – sebuah upaya, menurut Beijing, yang bertujuan untuk mempertahankan dominasi Washington dalam teknologi mutakhir dan mengecualikan Beijing dari sistem tata kelola AI global.
Oleh karena itu, kehadiran DeepSeek di dewan tersebut memiliki makna ganda: sekaligus merupakan keterlibatan Beijing yang paling terlihat dalam perbincangan global mengenai risiko AI dan merupakan ujian apakah laboratorium Tiongkok akan terlibat dalam kerangka risiko bencana.
Pembicaraan Menjelang Trump-Xi
Sidang Dewan Keamanan tidak berdiri sendiri. Pejabat senior AS dan Tiongkok sepakat untuk mengadakan pembicaraan lebih lanjut mengenai keamanan AI, kata Menteri Keuangan AS Scott Bessent pada tanggal 21 September, setelah pertemuan menjelang pertemuan Trump dengan Presiden Tiongkok Xi Jinping yang dijadwalkan pada akhir pekan ini di Washington.
Rangkaian pertemuan tersebut – pertemuan tingkat tinggi di Washington yang dilakukan bersamaan dengan debat Dewan Keamanan di New York – menggarisbawahi betapa AI telah beralih dari sekedar kebijakan teknis ke pusat hubungan bilateral.
Nonton apa
Tiga pertanyaan menghantui pertemuan hari Rabu. Apakah Liang Wenfeng berubah pikiran dan hadir. Apakah pernyataan DeepSeek mengandung risiko besar – penipuan, hilangnya kendali – yang ditekankan oleh rekan-rekan Amerika, atau tetap pada landasan yang lebih aman yaitu akses yang adil dan hak pembangunan. Dan apakah dewan tersebut dapat menghasilkan sesuatu di luar posisi yang sudah dikenalnya.
Catatan dewan mengenai AI sangat tipis: pertemuan pertama pada tahun 2023, peringatan sekretaris jenderal bulan ini, dan tidak ada kerangka kerja yang mengikat. Namun sebagai panggung bagi munculnya argumen AS-Tiongkok mengenai siapa yang menetapkan aturan untuk AI terdepan – dan ketakutan siapa yang ditanggapi dengan serius – AI hanya memiliki sedikit pesaing.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
