Lebih daripada 20 penyelidik - antaranya pemenang Hadiah Nobel Geoffrey Hinton, rakan perintis AI Yoshua Bengio, pengasas bersama Anthropic Jack Clark dan ketua saintis OpenAI Jakub Pachocki - telah memberi amaran kepada kerajaan supaya bersedia menghadapi "letupan perisikan" AI yang mereka katakan boleh menjadi perkembangan teknologi paling penting yang dilaporkan pada hari Isnin, The Guardian.

Makalah itu, bertajuk "Bagaimana jika mengautomasikan R&D AI mencetuskan letupan perisikan", menggesa ahli politik untuk bertindak sebelum terdapat kemajuan dalam teknologi. Pengarangnya menggambarkan senario itu sebagai "pecutan dramatik AI yang didorong oleh kemajuan AI, memampatkan kemajuan yang mungkin mengambil masa bertahun-tahun menjadi beberapa bulan atau kurang". Bagi pembaca yang menjejaki berita penyelidikan AI terbaharu, laporan itu kurang ketara kerana penggeranya berbanding siapa yang menandatanganinya: angka dari seluruh akademia dan makmal sempadan saingan, bersama-sama membuat kes bahawa penyelidikan automatik merupakan penggubal dasar senario yang paling kurang bersedia.

Apakah maksud letupan perisikan

Kebimbangan utama pengarang ialah prospek sistem AI memperbaiki diri mereka sendiri tanpa campur tangan manusia — satu proses yang dikenali sebagai pembaikan diri rekursif, dirujuk secara meluas dalam kertas sebagai penyelidikan dan pembangunan AI automatik.

Sebaik sahaja sistem AI mencapai keupayaan peringkat pakar di AI R&D, kertas itu berpendapat, satu pembangun boleh menjalankan tenaga kerja yang setara dengan "berjuta-juta" penyelidik manusia terkemuka. Mengautomasikan R&D AI, pada pandangan pengarang, kemungkinan besar mencetuskan letupan kecerdasan, kerana sistem AI sudah menyumbang kepada peningkatan teknologi mereka sendiri — dan sistem yang dipertingkatkan yang mereka bantu cipta boleh digunakan dengan pantas setelah dibina.

"Letupan perisikan boleh menjadi perkembangan teknologi yang paling penting dalam sejarah manusia, memampatkan kemajuan bertahun-tahun menjadi beberapa bulan atau kurang, mengancam kawalan manusia ke atas sistem AI, dan menghakis pemeriksaan kuasa di dalam dan di antara negeri, syarikat, dan cawangan kerajaan," kata akhbar itu, menurut The Guardian.

Mengapa penulis mengatakan tetingkap sedang ditutup

Kepentingan laporan itu bergantung pada tuntutan garis masa: Sistem AI yang kelihatan bermasalah hari ini boleh mengautomasikan sepenuhnya projek R&D yang pada masa ini mengambil masa beberapa bulan oleh pasukan manusia menjelang 2028.

"Pendapatan produktiviti daripada automasi R&D AI belum mencapai ambang yang diperlukan untuk mencetuskan letupan perisikan, tetapi keuntungan daripada sistem yang lebih baharu berkemungkinan menghampiri ambang itu," tulis penulis. "Apabila letupan perisikan bermula, tingkap untuk tindakan mungkin ditutup."

Kertas itu menambah bahawa "bukti awal menunjukkan bahawa letupan perisikan yang didorong oleh perisian adalah mungkin", yang boleh membawa kepada "pembangunan sistem AI yang sangat berkebolehan atau luar biasa".

Risiko yang mereka tandakan

Walaupun letupan kecerdasan boleh menghasilkan penemuan perubatan dan lompatan teknologi yang pantas, penulis menggariskan tiga bahaya utama:

  • Ancaman melarikan diri. Sistem yang berkuasa boleh membolehkan ancaman biologi dan siber berkembang lebih pantas daripada langkah yang diperlukan untuk mengatasinya.
  • Hilang kawalan. Apabila manusia semakin kurang terlibat dalam R&D AI, mereka boleh kehilangan peluang untuk mengarahkan dan mengekang sistem yang mereka bina.
  • Ketidakstabilan strategik. Negara boleh menggunakan letupan perisikan untuk menukar petunjuk sederhana — di ruang siber, contohnya — menjadi kelebihan negara yang menentukan.

Laporan itu berterus terang bahawa kesan ini adalah "tidak pasti". Kejayaan teknologi mungkin mengambil masa untuk melaksanakan rantaian bekalan yang diberikan untuk bahan khusus atau keperluan kawal selia, dan sistem AI juga boleh mempercepatkan kelajuan risiko dikurangkan.

Apa yang perlu dilakukan oleh kerajaan

Penulis mengatakan bahawa persediaan untuk letupan perisikan "harus menjadi keutamaan segera, termasuk di peringkat tertinggi kepimpinan kerajaan", dan menyusun satu set dasar calon:

  • Memerlukan laporan kemajuan yang telus tentang R&D berkaitan AI, termasuk membenamkan juruaudit bebas dalam syarikat AI
  • Mengehadkan seberapa pantas sistem AI boleh bertambah baik dalam tempoh masa tertentu
  • Bekerjasama dengan pusat data untuk membolehkan menjeda projek R&D AI tertentu
  • Memastikan sistem R&D AI automatik diasingkan sepenuhnya dan tidak dapat lari daripada kawalan manusia
  • Mencipta "pelan tindak balas kecemasan" untuk pelbagai senario yang boleh dihasilkan oleh letupan perisikan

Cadangan memanjangkan idea yang telah bergerak melalui dasar AI Barat — pelaporan insiden mandatori, penilaian pihak ketiga dan tadbir urus pengiraan — tetapi menggunakannya pada titik akhir tertentu: automasi penyelidikan itu sendiri.

Mengapa pengarang ini, dan mengapa sekarang

Penandatangan memberikan berat kertas yang luar biasa. Hinton dan Bengio ialah dua daripada "godfather" AI moden, diiktiraf untuk kerja asas pada rangkaian saraf; kedua-duanya telah menjadi suara terkenal yang memberi amaran tentang teknologi yang mereka bantu cipta. Clark mengasaskan bersama Anthropic, dan Pachocki ialah ketua saintis di OpenAI.

Amaran mereka tiba di tengah-tengah pergerakan industri yang boleh diukur ke arah itu. Anthropic berkata AI kini menghasilkan 80% kodnya sendiri, manakala OpenAI menggunakan ejen AI autonomi dalam bidang seperti latihan model baharu, menurut The Guardian. Kedua-dua makmal juga telah bersetuju untuk meminta penilai bebas menilai model mereka selepas memberi amaran bahawa pembangunan AI mencapai tahap kritikal dari segi keselamatan.

Sama ada kerajaan akan bergerak mengikut kadar yang penulis mahukan adalah persoalan lain. Tetapi hujah teras kertas itu - bahawa masa untuk membina brek adalah sebelum kereta memerlukannya - kini disahkan oleh orang yang paling dekat dengan mesin itu.

---

Kekal Mendahului AI

Dapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.

Baca lebih banyak berita AI →