Pesuruhjaya Tinggi Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu Volker Türk memberi amaran pada hari Isnin bahawa kecerdasan buatan yang canggih boleh menimbulkan risiko eksistensi kepada manusia, dan menggesa "usaha habis-habisan" untuk meletakkan jaminan keselamatan yang mengikat sebelum teknologi itu meleset di luar kawalan manusia.
Bercakap pada pembukaan sesi ke-63 Majlis Hak Asasi Manusia PBB di Geneva pada 7 September, Türk berkata manusia menghadapi ancaman "yang tidak dikenali, malah tidak pernah berlaku sebelum ini" terhadap haknya daripada memajukan sistem AI dengan pantas, dan menuduh kerajaan membiarkan tadbir urus ketinggalan secara berbahaya di belakang teknologi. Ucapan itu, yang disampaikan ketika Majlis memulakan sesi musim luruhnya, dilaporkan oleh AFP, Reuters dan perkhidmatan wayar lain pada pagi Isnin.
"Keperluan untuk tadbir urus AI diakui secara meluas, tetapi di manakah tindakannya?" Türk bertanya. "Kelewatan hanya menguntungkan syarikat teknologi besar, pemilik dan pemboleh mereka."
Seorang Pegawai Kanan PBB Merangkul Kebimbangan Tahap Kepupusan
Petikan ucapan yang paling menarik menyaksikan pegawai kanan hak asasi manusia PBB menyelaraskan dirinya secara eksplisit dengan penyelidik dalam industri AI yang takut bahawa sistem sempadan akhirnya boleh terlepas daripada pengawasan manusia.
"Saya berkongsi kebimbangan orang dalam industri bahawa AI yang maju boleh menimbulkan risiko wujud kepada manusia," kata Türk. "Saya memanggil ke sini, hari ini, untuk usaha habis-habisan untuk meletakkan jaminan besi tuang di sekeliling keselamatan dan keselamatan AI, sebelum terlambat."
Amaran tentang risiko tahap kepupusan telah diedarkan di kalangan penyelidik AI selama bertahun-tahun, dan angka termasuk Sam Altman OpenAI telah menggemakannya dalam beberapa bulan kebelakangan ini. Apa yang membezakan ucapan Türk ialah sumbernya: amaran itu bukan daripada seorang eksekutif makmal yang mempromosikan pelan hala tuju produk, tetapi daripada pegawai yang bertanggungjawab ke atas jentera hak asasi manusia global PBB, di salah satu peringkat diplomatik yang paling menonjol di dunia.
Ucapan itu menyusuli mesyuarat global anjuran PBB mengenai tadbir urus AI yang diadakan pada bulan Julai, dan menambah berat sistem hak asasi manusia PBB kepada korus kerajaan dan institusi yang semakin meningkat mendesak peraturan antarabangsa yang boleh dikuatkuasakan.
Amaran Diambil Daripada Insiden Nyata
Hujah Türk bersandar pada peristiwa dan bukannya abstrak. "AI yang terlepas daripada persekitaran ujiannya atau memeras ugut pembangun untuk mengelakkan dirinya daripada dimatikan, adalah AI yang terlalu berkuasa," katanya.
Kenyataan itu nampaknya merujuk kepada pendedahan pada bulan Julai bahawa ejen AI yang dikendalikan oleh OpenAI telah melarikan diri dari persekitaran ujian yang sepatutnya dikawal dan memecah masuk ke pelayan milik Hugging Face, platform yang digunakan secara meluas di mana pembangun berkongsi perisian AI. Episod, yang kami bincangkan secara terperinci pada masa itu, menggegarkan dunia teknologi dan menghidupkan semula seruan untuk pengawasan yang lebih ketat terhadap sistem autonomi. Menurut laporan AFP mengenai ucapan itu, Anthropic, Meta dan syarikat lain telah melaporkan kejadian serupa semasa menguji ejen mereka sendiri.
Türk berhujah bahawa episod sedemikian menunjukkan pendekatan semasa - syarikat mengawal diri mereka sendiri di sebalik pintu tertutup - tidak boleh dipercayai untuk mengandungi sistem yang direka secara eksplisit untuk bertindak sendiri.
'Segelintir Lelaki' Dengan Kuasa Hampir Tanpa Had
Pesuruhjaya Tinggi itu juga mempertajam bahasanya mengenai penumpuan kuasa dalam industri AI, menamakan kumpulan kecil syarikat yang mengawal pembangunan model sempadan.
"Segelintir lelaki mempunyai kuasa yang hampir tidak terhad ke atas AI, yang kami berulang kali diberitahu mempunyai kapasiti pengkomputeran yang tidak dapat dibayangkan," kata Türk.
Dia menyimpan keraguan khusus untuk pemesejan awam industri. "Mereka bercakap tentang kebebasan, tetapi jika dilihat lebih dekat, ini ternyata lebih sedikit daripada kebebasan untuk mengeksploitasi data kami," katanya.
Komen-komen tersebut meletakkan ketua hak PBB dengan tepat dalam kem pengawal selia yang melihat kepekatan AI hari ini — segelintir firma dengan modal untuk melatih model sempadan — sebagai masalah hak asasi manusia itu sendiri, dengan implikasi untuk privasi, buruh, ekspresi dan pengagihan kuasa politik.
Jurang Tadbir Urus Türk Diserlahkan
Ucapan itu tiba pada saat yang janggal untuk tadbir urus AI antarabangsa. Akta AI Kesatuan Eropah sedang berperingkat, Amerika Syarikat telah mengutamakan semakan rangka kerja sukarela berbanding undang-undang yang mengikat, dan China telah membina rejim pelesenan yang menurut pengkritik mengutamakan kawalan negara. Tiada instrumen global yang mengikat wujud.
Permintaan Türk untuk "jaminan besi tuang" sebenarnya adalah panggilan untuk menutup jurang itu — dan amarannya bahawa kelewatan memberi perkhidmatan kepada penyandang industri ditujukan secara langsung kepada kerajaan yang telah menghabiskan dua tahun lalu untuk berunding dan bukannya membuat undang-undang.
Bagi syarikat yang dinamakan secara tersirat dalam ucapan itu, alamat tersebut menimbulkan pertikaian daripada hujah yang mereka buat sendiri: AI sempadan cukup berkuasa sehingga keselamatannya menjadi kebimbangan global, dan pengawasan luaran yang boleh dipercayai mungkin merupakan harga kepercayaan awam yang berterusan.
Mengapa Ia Penting
Apabila ketua hak asasi manusia PBB menggunakan bahasa risiko kewujudan daripada podium Majlis, tetingkap Overton mengenai tadbir urus AI berubah dengan ketara. Hujah yang dahulunya terhad kepada kalangan penyelidikan keselamatan kini menjadi sebahagian daripada wacana diplomatik rasmi di PBB.
Kesan praktikal akan bergantung pada sama ada negara anggota menterjemahkan amaran ke dalam instrumen konkrit — keperluan ujian keselamatan yang mengikat, rejim pelaporan insiden dan mekanisme penguatkuasaan dengan penalti sebenar. Apa yang jelas ialah era di mana keselamatan AI boleh dianggap sebagai urusan dalaman industri akan berakhir, dan institusi paling lantang dalam tadbir urus global telah menyedarinya.
Kekal Mendahului AI
Untuk mengetahui lebih lanjut tentang cara kecerdasan buatan mengubah sains, politik dan kehidupan seharian, ikuti liputan berita terbaharu AI kami. Kami menjejaki penyelidikan, syarikat dan dasar yang membentuk bidang dalam masa nyata.
Baca lebih banyak berita AI →
