Panel penasehat ilmu pengetahuan PBB telah mengeluarkan peringatan keras bahwa kecerdasan buatan berkembang lebih cepat dibandingkan kerangka peraturan dan ilmiah yang diperlukan untuk mengelolanya, sehingga meningkatkan kemungkinan terjadinya bencana besar jika kesenjangan tersebut tidak segera diatasi.
Temuan panel tersebut, yang dilaporkan oleh Reuters pada tanggal 1 Juli 2026, menyoroti meningkatnya ketegangan antara pesatnya kemajuan AI dan dunia tata kelola dan pengawasan yang bergerak lebih lambat. Beberapa media, termasuk The Times of Israel, Arab News, dan MSN, mengonfirmasi penilaian tersebut, yang menyebut AI sebagai salah satu risiko paling penting yang muncul terhadap stabilitas global. Untuk liputan komprehensif mengenai perkembangan ini, ikuti perkembangan AI terbaru kami di AI Buzz Wire.
AI Melampaui Sains dan Kebijakan
Pesan inti dari panel ini adalah bahwa kemampuan AI berkembang pada tingkat yang tidak hanya melebihi kapasitas peraturan tetapi juga pemahaman ilmiah yang diperlukan untuk mengevaluasi keamanannya. Peringatan ini terkenal karena kerangka masalahnya bersifat sistemik: bukan hanya karena masing-masing perusahaan bergerak terlalu cepat, namun seluruh ekosistem penilaian, pengujian, dan pengawasan secara struktural tertinggal.
Berdasarkan liputan yang dilakukan oleh Technology Org dan MSN, panel tersebut memperingatkan bahwa sistem AI diterapkan dalam konteks di mana perilakunya tidak sepenuhnya dipahami, bahkan oleh penciptanya. Hal ini menciptakan apa yang digambarkan oleh panel sebagai jendela kerentanan – suatu periode di mana sistem yang kuat sedang digunakan namun alat untuk memprediksi atau membendung mode kegagalannya belum ada.
Penilaian ini sejalan dengan kekhawatiran yang dikemukakan oleh para peneliti dan pakar kebijakan yang berpendapat bahwa metode pengujian saat ini, termasuk tim merah dan evaluasi tolok ukur, tidak cukup untuk mendeteksi mode kegagalan baru dalam sistem yang semakin mampu. Intervensi panel PBB memberi bobot institusional pada perdebatan akademis.
Negara-negara Selatan Dikecualikan dari Tata Kelola AI
Kekhawatiran serupa yang diangkat oleh panel tersebut, yang diperkuat dalam laporan Arab News, adalah tidak dilibatkannya negara-negara berkembang dalam diskusi mengenai tata kelola AI. Panel tersebut memperingatkan bahwa kebijakan AI hampir seluruhnya ditulis oleh negara-negara kaya dan perusahaan-perusahaan yang berkantor pusat di negara-negara tersebut, sehingga negara-negara Selatan tidak memiliki perwakilan yang berarti dalam pengambilan keputusan yang akan berdampak pada perekonomian, keamanan, dan masyarakat mereka.
Kesenjangan tata kelola ini mempunyai konsekuensi praktis. Negara-negara yang tidak memiliki industri AI dalam negeri mungkin tidak memiliki keahlian teknis untuk mengevaluasi sistem yang diimpor, mengatur penggunaannya, atau menegosiasikan persyaratan yang adil dengan perusahaan yang memasoknya. Panel tersebut menyerukan agar negara-negara berkembang lebih dilibatkan dalam forum tata kelola AI internasional, dengan alasan bahwa konsentrasi kekuasaan pengambilan keputusan di segelintir negara saat ini tidak adil dan berbahaya.
Peringatan ini muncul ketika beberapa negara di kawasan Selatan mulai mengembangkan strategi AI mereka sendiri, yang seringkali dilakukan dengan sumber daya dan keahlian yang terbatas. Seruan panel untuk melakukan inklusi mencerminkan pengakuan bahwa risiko AI – mulai dari gangguan ekonomi hingga misinformasi otomatis – tidak menghormati batas negara.
Apa Arti 'Risiko Bencana' dalam Prakteknya
Penggunaan istilah dampak bencana oleh panel sangatlah signifikan. Dalam literatur keselamatan AI, risiko bencana biasanya mengacu pada hasil yang melibatkan gangguan ekonomi berskala besar, penggunaan senjata pemusnah massal, terkikisnya institusi demokrasi melalui propaganda otomatis, atau kegagalan sistem infrastruktur penting yang bergantung pada AI.
Panel tidak menentukan risiko mana yang paling mungkin terjadi. Namun, luasnya peringatan tersebut – yang mencakup segala hal mulai dari integritas ilmiah hingga keamanan nasional – menunjukkan pandangan bahwa profil risiko agregat AI meningkat lebih cepat daripada risiko individu yang dapat dievaluasi dan dimitigasi.
Penilaian ini sejalan dengan semakin banyaknya penelitian yang dilakukan oleh berbagai institusi termasuk Center for AI Safety, Future of Humanity Institute, dan berbagai badan penasihat pemerintah. Yang membedakan intervensi panel PBB ini adalah cakupannya yang global dan seruannya untuk melakukan tindakan internasional yang terkoordinasi, bukan peraturan nasional yang hanya bersifat sepotong-sepotong yang mendominasi lanskap kebijakan hingga saat ini.
Lanskap Regulasi
Peringatan ini muncul pada saat aktivitas regulasi meningkat. Di Amerika Serikat, Gedung Putih telah mempercepat upaya untuk menetapkan standar model AI, termasuk langkah-langkah eksekutif baru yang mengatur peluncuran model-model terdepan. Undang-undang AI di Uni Eropa terus diterapkan secara bertahap, dengan ketentuan yang menargetkan sistem AI yang berisiko tinggi kini mulai berlaku. Tiongkok telah menerapkan serangkaian peraturan AI sendiri, yang berfokus pada kontrol konten dan transparansi algoritmik.
Namun penilaian panel menunjukkan bahwa upaya-upaya ini, meskipun penting, masih bersifat reaktif dan bukan proaktif. Peraturan ditulis sebagai respons terhadap kemampuan yang sudah ada, sementara sistem generasi berikutnya sedang dalam pengembangan. Keterlambatan struktural ini, panel memperingatkan, adalah tempat dimana bahaya terbesar berada.
Tetap Terdepan dalam AI
Untuk informasi terkini mengenai kebijakan AI, tata kelola, dan risiko global, kunjungi AI Buzz Wire.
Baca berita AI selengkapnya →
