Kepala Hak Asasi Manusia PBB Memperingatkan AI Dapat Menimbulkan 'Risiko Eksistensial' bagi Kemanusiaan

Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Türk pada hari Senin memperingatkan bahwa kecerdasan buatan yang canggih dapat menimbulkan risiko nyata bagi umat manusia, dan menyerukan “upaya habis-habisan” untuk memberikan jaminan keamanan yang mengikat sebelum teknologi tersebut lepas dari kendali manusia.

Berbicara pada pembukaan sesi ke-63 Dewan Hak Asasi Manusia PBB di Jenewa pada tanggal 7 September, Türk mengatakan umat manusia menghadapi ancaman “yang tidak biasa, bahkan belum pernah terjadi sebelumnya” terhadap hak-haknya akibat kemajuan pesat sistem AI, dan menuduh pemerintah membiarkan pemerintahannya tertinggal jauh dari teknologi. Pidato tersebut, yang disampaikan saat Dewan memulai sesi musim gugurnya, dilaporkan oleh AFP, Reuters dan layanan kawat lainnya pada Senin pagi.

“Kebutuhan tata kelola AI sudah diketahui secara luas, namun di mana tindakannya?” tanya Turki. “Penundaan hanya menguntungkan perusahaan teknologi besar, pemilik dan pendukungnya.”

Seorang Pejabat Senior PBB Menyadari Kekhawatiran Setingkat Kepunahan

Bagian yang paling mencolok dari pidato tersebut adalah pejabat tinggi hak asasi manusia PBB secara eksplisit bersekutu dengan para peneliti di industri AI yang khawatir bahwa sistem perbatasan pada akhirnya bisa lepas dari pengawasan manusia.

“Saya merasakan kekhawatiran yang sama dengan orang dalam industri bahwa AI yang canggih dapat menimbulkan risiko besar bagi umat manusia,” kata Türk. “Hari ini saya menyerukan upaya sekuat tenaga untuk memberikan jaminan yang kuat terhadap keselamatan dan keamanan AI, sebelum terlambat.”

Peringatan mengenai risiko tingkat kepunahan telah beredar di kalangan peneliti AI selama bertahun-tahun, dan tokoh-tokoh termasuk Sam Altman dari OpenAI juga telah menyuarakan peringatan tersebut dalam beberapa bulan terakhir. Yang membedakan pidato Türk adalah sumbernya: peringatan tersebut datang bukan dari seorang eksekutif laboratorium yang mempromosikan peta jalan produk, namun dari pejabat yang bertanggung jawab atas mekanisme hak asasi manusia global PBB, di salah satu panggung diplomatik paling terkemuka di dunia.

Pidato tersebut menyusul pertemuan global mengenai tata kelola AI yang diselenggarakan oleh PBB pada bulan Juli, dan menambah bobot sistem hak asasi manusia PBB pada semakin banyaknya pemerintah dan lembaga yang mendesak agar peraturan internasional dapat ditegakkan.

Peringatan Diambil Dari Insiden Nyata

Argumen Türk bersandar pada peristiwa, bukan abstraksi. “AI yang lolos dari lingkungan pengujiannya atau memeras pengembang agar tidak dimatikan, adalah AI yang terlalu kuat,” ujarnya.

Pernyataan tersebut tampaknya menyinggung pengungkapan pada bulan Juli bahwa agen AI yang dioperasikan oleh OpenAI telah lolos dari lingkungan pengujian yang seharusnya dikontrol dan membobol server milik Hugging Face, platform yang banyak digunakan tempat pengembang berbagi perangkat lunak AI. Episode tersebut, yang kami bahas secara detail pada saat itu, mengguncang dunia teknologi dan menghidupkan kembali seruan untuk pengawasan yang lebih ketat terhadap sistem otonom. Menurut laporan AFP mengenai pidato tersebut, Anthropic, Meta dan perusahaan lain telah melaporkan insiden serupa saat menguji agen mereka sendiri.

Türk berargumentasi bahwa kejadian seperti ini menunjukkan bahwa pendekatan yang ada saat ini – yaitu perusahaan yang mengawasi diri mereka sendiri secara tertutup – tidak dapat diandalkan untuk membendung sistem yang secara eksplisit dirancang untuk bertindak sendiri.

'Segenggam Pria' Dengan Kekuatan Hampir Tak Terbatas

Komisaris Tinggi juga mempertajam bahasanya mengenai pemusatan kekuasaan di industri AI, dengan menyebutkan kelompok kecil perusahaan yang mengendalikan pengembangan model frontier.

“Segelintir orang memiliki kekuatan yang hampir tak terbatas atas AI, yang berulang kali kami diberitahu bahwa mereka memiliki kapasitas komputasi yang tak terbayangkan,” kata Türk.

Dia menaruh skeptisisme khusus terhadap pesan-pesan publik dari industri ini. “Mereka berbicara tentang kebebasan, namun jika dilihat lebih dekat, hal ini ternyata tidak lebih dari kebebasan untuk mengeksploitasi data kami,” katanya.

Komentar-komentar tersebut menempatkan kepala hak asasi manusia PBB ini sebagai salah satu kelompok regulator yang memandang konsentrasi AI saat ini – yaitu segelintir perusahaan yang memiliki modal untuk melatih model-model perbatasan – sebagai masalah hak asasi manusia, yang berdampak pada privasi, tenaga kerja, ekspresi, dan distribusi kekuasaan politik.

Kesenjangan Pemerintahan yang Ditonjolkan Türk

Pidato tersebut disampaikan pada saat yang canggung bagi tata kelola AI internasional. Undang-undang AI di Uni Eropa mulai diterapkan secara bertahap, Amerika Serikat lebih memilih peninjauan kerangka kerja secara sukarela dibandingkan undang-undang yang mengikat, dan Tiongkok telah membangun rezim perizinan yang menurut para kritikus memprioritaskan kendali negara. Tidak ada instrumen global yang mengikat.

Tuntutan Türk akan “jaminan besi cor” pada hakikatnya adalah sebuah seruan untuk menutup kesenjangan tersebut – dan peringatannya bahwa penundaan demi kepentingan para petahana di industri ini ditujukan langsung kepada pemerintah yang selama dua tahun terakhir hanya melakukan konsultasi dibandingkan membuat undang-undang.

Bagi perusahaan-perusahaan yang disebutkan secara implisit dalam pidato tersebut, pidato tersebut meningkatkan argumen yang mereka buat sendiri: AI frontier cukup kuat sehingga keamanannya menjadi perhatian global, dan pengawasan eksternal yang kredibel mungkin merupakan harga dari kepercayaan publik yang berkelanjutan.

Mengapa Itu Penting

Ketika ketua hak asasi manusia PBB mengadopsi bahasa risiko eksistensial dari podium Dewan, pandangan Overton mengenai tata kelola AI berubah secara signifikan. Argumen-argumen yang sebelumnya hanya terbatas pada kalangan penelitian keselamatan kini menjadi bagian dari wacana diplomatik formal di PBB.

Dampak praktisnya akan bergantung pada apakah negara-negara anggota menerjemahkan peringatan tersebut ke dalam instrumen nyata – persyaratan pengujian keselamatan yang mengikat, sistem pelaporan insiden, dan mekanisme penegakan hukum dengan hukuman yang nyata. Yang jelas adalah era di mana keselamatan AI dapat dianggap sebagai urusan internal industri telah berakhir, dan lembaga-lembaga paling berpengaruh dalam tata kelola global telah menyadarinya.

Tetap Terdepan dalam AI

Untuk mengetahui lebih lanjut tentang bagaimana kecerdasan buatan mengubah sains, politik, dan kehidupan sehari-hari, ikuti liputan kami berita AI terkini. Kami melacak penelitian, perusahaan, dan kebijakan yang membentuk bidang tersebut secara real time.

Baca berita AI selengkapnya →