Panel PBB Memberi Amaran Kemajuan AI Mungkin Menimbulkan Risiko Malapetaka kerana Perlindungan Tertinggal di Belakang Teknologi

Panel penasihat sains Pertubuhan Bangsa-Bangsa Bersatu telah mengeluarkan amaran keras bahawa kecerdasan buatan berkembang lebih pantas daripada rangka kerja kawal selia dan saintifik yang diperlukan untuk mengurusnya, meningkatkan kemungkinan bahaya besar jika jurang itu tidak ditangani dengan segera.

Penemuan panel, yang dilaporkan oleh Reuters pada 1 Julai 2026, menyerlahkan ketegangan yang semakin meningkat antara kepantasan pesat kemajuan AI dan dunia tadbir urus dan pengawasan yang bergerak lebih perlahan. Pelbagai saluran, termasuk The Times of Israel, Arab News dan MSN, mengesahkan penilaian itu, yang membingkai AI sebagai salah satu risiko yang paling berbangkit kepada kestabilan global. Untuk liputan menyeluruh tentang perkembangan ini, ikuti perkembangan AI terkini kami di AI Buzz Wire.

AI Mendahului Sains dan Dasar

Mesej teras panel adalah bahawa keupayaan AI berkembang pada kadar yang melebihi bukan sahaja kapasiti pengawalseliaan tetapi pemahaman saintifik yang diperlukan untuk menilai keselamatan mereka. Amaran itu terkenal kerana membingkai masalah itu sebagai sistemik: bukan sahaja syarikat individu bergerak terlalu pantas, tetapi keseluruhan ekosistem penilaian, ujian dan pengawasan berada di belakang secara struktur.

Menurut liputan oleh Technology Org dan MSN, panel itu memberi amaran bahawa sistem AI sedang digunakan dalam konteks di mana tingkah laku mereka tidak difahami sepenuhnya, walaupun oleh pencipta mereka. Ini mewujudkan apa yang diterangkan oleh panel sebagai tetingkap kerentanan — tempoh di mana sistem berkuasa sedang digunakan tetapi alat untuk meramal atau mengandungi mod kegagalannya masih belum wujud.

Penilaian itu menyuarakan kebimbangan yang dibangkitkan oleh penyelidik dan pakar dasar yang berpendapat bahawa kaedah ujian semasa, termasuk penilaian gabungan merah dan penanda aras, tidak mencukupi untuk menangkap mod kegagalan baru dalam sistem yang semakin berkebolehan. Campur tangan panel PBB memberikan berat institusi kepada apa yang sebahagian besarnya menjadi perdebatan akademik.

Global South Dikecualikan Daripada Tadbir Urus AI

Kebimbangan selari yang dibangkitkan oleh panel, diperkuatkan dalam laporan oleh Arab News, adalah pengecualian negara membangun daripada perbualan yang membentuk tadbir urus AI. Panel itu memberi amaran bahawa dasar AI sedang ditulis hampir keseluruhannya oleh negara kaya dan syarikat yang beribu pejabat di dalamnya, meninggalkan Global South tanpa perwakilan bermakna dalam keputusan yang akan menjejaskan ekonomi, keselamatan dan masyarakat mereka.

Jurang tadbir urus ini mempunyai akibat praktikal. Negara tanpa industri AI domestik mungkin kekurangan kepakaran teknikal untuk menilai sistem yang diimport, mengawal penggunaannya atau merundingkan syarat yang adil dengan syarikat yang membekalkannya. Panel itu menyeru agar negara membangun lebih banyak dimasukkan ke dalam forum tadbir urus AI antarabangsa, dengan alasan bahawa penumpuan kuasa membuat keputusan semasa di segelintir negara adalah tidak adil dan berbahaya.

Amaran itu datang apabila beberapa negara di Global South telah mula mewujudkan strategi AI mereka sendiri, selalunya dengan sumber dan kepakaran yang terhad. Gesaan panel untuk kemasukan mencerminkan pengiktirafan bahawa AI berisiko - daripada gangguan ekonomi kepada maklumat salah automatik - tidak menghormati sempadan negara.

Maksud 'Risiko Malapetaka' dalam Amalan

Penggunaan istilah kemudaratan bencana oleh panel adalah penting. Dalam literatur keselamatan AI, risiko bencana biasanya merujuk kepada hasil yang melibatkan gangguan ekonomi berskala besar, pendayaan senjata pemusnah besar-besaran, penghakisan institusi demokrasi melalui propaganda automatik, atau kegagalan sistem infrastruktur kritikal yang bergantung kepada AI.

Panel tidak menyatakan risiko mana yang dianggap paling berkemungkinan. Walau bagaimanapun, keluasan amaran - meliputi segala-galanya daripada integriti saintifik kepada keselamatan negara - mencadangkan pandangan bahawa profil risiko agregat AI meningkat lebih cepat daripada risiko individu yang boleh dinilai dan dikurangkan.

Penilaian itu sejajar dengan badan penyelidikan yang semakin meningkat daripada institusi termasuk Pusat Keselamatan AI, Institut Kemanusiaan Masa Depan dan pelbagai badan penasihat kerajaan. Apa yang membezakan campur tangan panel PBB ialah skop globalnya dan seruannya untuk tindakan antarabangsa yang diselaraskan, dan bukannya peraturan negara yang sedikit demi sedikit yang telah menguasai landskap dasar setakat ini.

Landskap Kawal Selia

Amaran itu tiba pada saat aktiviti kawal selia yang meningkat. Di Amerika Syarikat, Rumah Putih telah mempercepatkan usaha untuk mewujudkan piawaian model AI, termasuk langkah eksekutif baharu yang mengawal pengeluaran model sempadan. Akta AI Kesatuan Eropah terus dilaksanakan secara berperingkat, dengan peruntukan yang menyasarkan sistem AI berisiko tinggi kini berkuat kuasa. China telah melaksanakan set peraturan AInya sendiri, memfokuskan pada kawalan kandungan dan ketelusan algoritma.

Namun penilaian panel menunjukkan bahawa walaupun usaha ini, walaupun besar, tetap reaktif dan bukannya proaktif. Peraturan ditulis sebagai tindak balas kepada keupayaan yang sedia ada, manakala sistem generasi seterusnya sudah dalam pembangunan. Kelewatan struktur ini, panel memberi amaran, adalah di mana bahaya terbesar terletak.

Kekal Mendahului AI

Untuk mendapatkan maklumat terkini tentang dasar AI, tadbir urus dan risiko global, lawati AI Buzz Wire.

Baca lebih banyak berita AI →