Lebih dari 20 peneliti – di antaranya peraih Nobel Geoffrey Hinton, sesama pionir AI Yoshua Bengio, salah satu pendiri Anthropic Jack Clark, dan kepala ilmuwan OpenAI Jakub Pachocki – telah memperingatkan pemerintah agar bersiap menghadapi “ledakan kecerdasan” AI yang menurut mereka bisa menjadi perkembangan teknologi paling berdampak dalam sejarah, The Guardian melaporkan pada hari Senin.

Makalah tersebut, yang berjudul “Bagaimana jika otomatisasi penelitian dan pengembangan AI memicu ledakan intelijen”, mendesak para politisi untuk bertindak sebelum terjadi kemajuan pesat dalam teknologi tersebut. Penulisnya menggambarkan skenario ini sebagai “percepatan kemajuan AI yang didorong oleh AI, sehingga mempercepat kemajuan yang seharusnya memakan waktu bertahun-tahun menjadi berbulan-bulan atau kurang”. Bagi pembaca yang memantau berita riset AI terkini, laporan ini tidak terlalu mengkhawatirkan dibandingkan siapa yang menandatanganinya: angka-angka dari seluruh akademisi dan laboratorium-laboratorium yang saling bersaing, secara bersama-sama menyatakan bahwa riset otomatis adalah skenario yang paling tidak siap untuk dilakukan oleh para pembuat kebijakan.

Apa arti ledakan intelijen

Kekhawatiran utama penulis adalah prospek sistem AI dapat berkembang tanpa campur tangan manusia – sebuah proses yang dikenal sebagai perbaikan diri secara rekursif, yang dalam makalah ini disebut sebagai penelitian dan pengembangan AI otomatis.

Ketika sistem AI mencapai kemampuan tingkat ahli dalam penelitian dan pengembangan AI, makalah tersebut berpendapat bahwa satu pengembang dapat mengelola tenaga kerja yang setara dengan “jutaan” peneliti terkemuka. Mengotomatiskan penelitian dan pengembangan AI, dalam pandangan penulis, kemungkinan besar merupakan pemicu ledakan intelijen, karena sistem AI telah berkontribusi dalam meningkatkan teknologi mereka sendiri — dan sistem yang ditingkatkan yang mereka bantu ciptakan dapat diterapkan dengan cepat setelah dibangun.

“Ledakan intelijen bisa menjadi perkembangan teknologi yang paling berdampak dalam sejarah umat manusia, yang memperpendek kemajuan bertahun-tahun menjadi beberapa bulan atau kurang, mengancam kendali manusia atas sistem AI, dan sangat mengikis pengawasan terhadap kekuasaan di dalam dan di antara negara bagian, perusahaan, dan cabang pemerintahan,” kata surat kabar tersebut, menurut The Guardian.

Mengapa penulis mengatakan jendelanya ditutup

Urgensi laporan ini bertumpu pada klaim garis waktu: sistem AI yang tampak bermasalah saat ini dapat sepenuhnya mengotomatiskan proyek penelitian dan pengembangan yang saat ini membutuhkan waktu berbulan-bulan bagi tim manusia pada tahun 2028.

“Peningkatan produktivitas dari otomatisasi penelitian dan pengembangan AI belum mencapai ambang batas yang diperlukan untuk memicu ledakan intelijen, namun peningkatan dari sistem yang lebih baru kemungkinan besar mendekati ambang batas tersebut,” tulis para penulis. “Saat ledakan intelijen dimulai, peluang untuk mengambil tindakan mungkin akan tertutup.”

Makalah ini menambahkan bahwa "bukti awal menunjukkan bahwa ledakan intelijen berbasis perangkat lunak mungkin terjadi", yang dapat mengarah pada "perkembangan yang sangat pesat dari sistem AI berkemampuan tinggi atau sistem AI yang bersifat manusia super".

Risiko yang mereka tandai

Meskipun ledakan intelijen dapat menghasilkan terobosan medis dan lompatan teknologi yang cepat, para penulis menguraikan tiga bahaya utama:

  • Ancaman yang tak terkendali. Sistem yang kuat dapat memungkinkan ancaman biologis dan siber berkembang lebih cepat dibandingkan upaya yang diperlukan untuk melawannya.
  • Kehilangan kendali. Ketika manusia semakin berkurang keterlibatannya dalam penelitian dan pengembangan AI, mereka dapat kehilangan kesempatan untuk mengarahkan dan membatasi sistem yang mereka bangun.
  • Ketidakstabilan strategis. Negara-negara dapat menggunakan ledakan intelijen untuk mengubah keunggulan kecil – di dunia maya, misalnya – menjadi keuntungan nasional yang menentukan.

Laporan tersebut menyatakan dengan jujur ​​bahwa dampak-dampak ini “tidak pasti”. Sebuah terobosan teknologi mungkin membutuhkan waktu untuk diterapkan pada rantai pasokan tertentu untuk bahan khusus atau persyaratan peraturan, dan sistem AI juga dapat mempercepat mitigasi risiko.

Apa yang harus dilakukan pemerintah

Para penulis mengatakan persiapan menghadapi ledakan intelijen “harus menjadi prioritas mendesak, termasuk di tingkat tertinggi kepemimpinan pemerintah”, dan memaparkan serangkaian kebijakan kandidat:

  • Mewajibkan laporan kemajuan yang transparan mengenai penelitian dan pengembangan terkait AI, termasuk memasukkan auditor independen ke dalam perusahaan AI
  • Membatasi seberapa cepat peningkatan sistem AI dalam jangka waktu tertentu
  • Bekerja dengan pusat data untuk memungkinkan penghentian sementara proyek Penelitian dan Pengembangan AI tertentu
  • Memastikan sistem Litbang AI otomatis sepenuhnya terisolasi dan tidak dapat lepas dari kendali manusia
  • Membuat "rencana tanggap darurat" untuk berbagai skenario yang dapat dihasilkan oleh ledakan intelijen

Proposal tersebut memperluas gagasan yang sudah ada dalam kebijakan AI Barat – pelaporan insiden wajib, evaluasi pihak ketiga, dan tata kelola komputasi – namun menerapkannya pada titik akhir tertentu: otomatisasi penelitian itu sendiri.

Mengapa para penulis ini, dan mengapa sekarang

Para penandatangan memberikan bobot yang tidak biasa pada kertas tersebut. Hinton dan Bengio adalah dua "bapak baptis" AI modern, yang diakui atas karya dasar jaringan saraf; keduanya telah menjadi suara yang memperingatkan tentang teknologi yang mereka bantu ciptakan. Clark ikut mendirikan Anthropic, dan Pachocki adalah kepala ilmuwan di OpenAI.

Peringatan mereka muncul di tengah pergerakan industri yang terukur ke arah tersebut. Anthropic mengatakan AI sekarang menghasilkan 80% kodenya sendiri, sementara OpenAI menggunakan agen AI otonom di berbagai bidang seperti pelatihan model baru, menurut The Guardian. Kedua laboratorium juga sepakat untuk meminta evaluator independen menilai model mereka setelah memperingatkan bahwa pengembangan AI mencapai titik kritis dalam hal keselamatan.

Apakah pemerintah akan bergerak sesuai dengan keinginan penulis adalah pertanyaan lain. Namun argumen inti makalah tersebut – bahwa saat untuk membuat rem adalah sebelum mobil membutuhkannya – kini didukung oleh orang-orang terdekat dengan mesin tersebut.

---

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →