Luwih saka 20 peneliti - ing antarane pamenang Nobel Geoffrey Hinton, fellow AI pionir Yoshua Bengio, Anthropic co-founder Jack Clark lan OpenAI pangareping ilmuwan Jakub Pachocki - wis dielingake pemerintah kanggo nyiapake kanggo AI "bledosan intelijen" sing padha ngandika bisa dadi pangembangan teknologi paling consequential kacarita ana ing sajarah.

Makalah kasebut, kanthi irah-irahan "Apa yen ngotomatisasi AI R&D nyebabake bledosan intelijen", ndesek para politisi supaya tumindak sadurunge ana kemajuan teknologi. Penulis kasebut nggambarake skenario kasebut minangka "akselerasi AI-driven dramatis saka kemajuan AI, ngompres kemajuan sing bakal mbutuhake pirang-pirang wulan utawa kurang". Kanggo para pamaca sing nelusuri kabar riset AI paling anyar, laporan kasebut kurang penting amarga weker tinimbang sing nandhatangani: tokoh saka akademisi lan laboratorium perbatasan saingan, bebarengan nggawe kasus riset otomatis minangka pembuat kebijakan skenario sing paling ora disiapake.

Apa tegese bledosan intelijen

Keprigelan utama penulis yaiku prospek sistem AI sing bisa ningkatake awake dhewe tanpa campur tangan manungsa - proses sing dikenal minangka perbaikan diri rekursif, sing diarani sacara umum ing kertas minangka riset lan pangembangan AI otomatis.

Sawise sistem AI tekan kapabilitas tingkat pakar ing AI R&D, kertas kasebut ujar, pangembang siji bisa mbukak tenaga kerja sing padha karo "mayuta-yuta" peneliti manungsa paling dhuwur. Ngotomatisasi AI R&D, ing panemune penulis, minangka pemicu jeblugan intelijen, amarga sistem AI wis nyumbang kanggo ningkatake teknologi dhewe - lan sistem sing luwih apik sing bisa digawe bisa digunakake kanthi cepet sawise dibangun.

"Jeblugan intelijen bisa dadi pangembangan teknologi sing paling penting ing sejarah manungsa, ngompres kemajuan taun nganti pirang-pirang wulan utawa kurang, ngancam kontrol manungsa ing sistem AI, lan ngrusak kontrol kekuwatan ing antarane negara, perusahaan, lan cabang pamrentahan," ujare koran kasebut, miturut The Guardian.

Apa penulis ngomong jendhela wis nutup

Kapentingan laporan kasebut ana ing pratelan garis wektu: Sistem AI sing katon glitchy saiki bisa ngotomatisasi proyek R&D sing saiki njupuk tim manungsa sasi nganti 2028.

"Kauntungan produktivitas saka otomatisasi R&D AI durung tekan ambang sing dibutuhake kanggo micu bledosan intelijen, nanging bathi saka sistem sing luwih anyar bakal nyedhaki ambang kasebut," panulis nulis. "Yen bledosan intelijen diwiwiti, jendhela kanggo tumindak bisa ditutup."

Makalah kasebut nambahake manawa "bukti awal nuduhake manawa bledosan intelijen sing didhukung piranti lunak bisa uga", sing bisa nyebabake "pembangunan sistem AI sing duwe kemampuan utawa superhuman sing cepet banget".

Resiko padha flag

Nalika bledosan intelijen bisa ngasilake terobosan medis lan lompatan teknologi kanthi cepet, para panulis nerangake telung bebaya utama:

  • Ancaman sing mlayu. Sistem sing kuat bisa ngaktifake ancaman biologis lan cyber sing berkembang luwih cepet tinimbang langkah-langkah sing dibutuhake kanggo nglawan.
  • Kelangan kontrol. Nalika manungsa dadi kurang melu ing AI R&D, padha bisa kelangan kesempatan kanggo ngarahake lan mbatesi sistem sing dibangun.
  • Ketidakstabilan strategis. Negara bisa nggunakake bledosan intelijen kanggo ngowahi timbal sing sederhana — ing dunia maya, umpamane — dadi kauntungan nasional sing nemtokake.

Laporan kasebut terus terang manawa pengaruh kasebut "ora mesthi". Terobosan teknologi bisa mbutuhake wektu kanggo ngetrapake rantai pasokan sing diwenehake kanggo bahan khusus utawa syarat peraturan, lan sistem AI uga bisa nyepetake kacepetan nyuda risiko.

Apa sing kudu ditindakake pemerintah

Penulis ujar manawa nyiapake bledosan intelijen "kudu dadi prioritas sing penting, kalebu ing tingkat pimpinan pamrentah sing paling dhuwur", lan nyetel seperangkat kabijakan calon:

  • Mbutuhake laporan kemajuan transparan babagan R&D sing gegandhengan karo AI, kalebu nanem auditor independen ing perusahaan AI
  • Matesi sepira cepet sistem AI bisa nambah sajrone wektu tartamtu
  • Nggarap pusat data kanggo ngaktifake ngaso proyek R&D AI tartamtu
  • Njamin sistem R&D AI otomatis terisolasi lan ora bisa uwal saka kontrol manungsa
  • Nggawe "rencana tanggap darurat" kanggo macem-macem skenario sing bisa ditindakake dening bledosan intelijen

Usul kasebut ngluwihi ide sing wis ditindakake liwat kabijakan AI Kulon - laporan kedadeyan wajib, evaluasi pihak katelu lan pamrentahan komputasi - nanging ditrapake menyang titik pungkasan tartamtu: otomatisasi riset dhewe.

Napa penulis iki, lan kenapa saiki

Para penandatangan menehi bobot kertas sing ora biasa. Hinton lan Bengio minangka loro "godfathers" AI modern, diakoni kanggo karya dhasar ing jaringan saraf; loro-lorone wis dadi swara penting sing menehi peringatan babagan teknologi sing padha mbantu nggawe. Clark ngedegake Anthropic, lan Pachocki minangka kepala ilmuwan ing OpenAI.

Tandha peringatan kasebut ing tengah-tengah gerakan industri sing bisa diukur menyang arah kasebut. Anthropic ujar manawa AI saiki ngasilake 80% kode dhewe, dene OpenAI nggunakake agen AI otonom ing wilayah kayata latihan model anyar, miturut The Guardian. Loro-lorone lab uga wis sarujuk duwe evaluator independen kanggo netepake model kasebut sawise ngelingake yen pangembangan AI wis tekan titik kritis babagan safety.

Apa pamrentah bakal maju kanthi cepet sing dikarepake para panulis, dadi pitakonan liyane. Nanging bantahan inti kertas - sing wayahe kanggo mbangun rem sadurunge mobil perlu - saiki disetujoni dening wong sing paling cedhak karo mesin.

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →