Salah satu "bapak baptis AI" telah mengeluarkan peringatan paling kerasnya: Geoffrey Hinton, ilmuwan komputer pemenang hadiah Nobel yang penelitiannya mendukung kecerdasan buatan modern, mengatakan bahwa manusia akan lebih baik jika tidak mengembangkan teknologi tersebut. Dalam sebuah wawancara dengan The Guardian, ia juga memperingatkan bahwa AI dapat memicu insiden berskala besar – seperti pemadaman sementara sistem keuangan atau listrik – pada tahun ini atau tahun depan.
'Mungkin lebih baik kita tidak mengembangkannya' Untuk konteks lebih lanjut mengenai cerita ini, lihat tren AI kami yang sedang berlangsung.
Hinton, 78 tahun, mengatakan kepada The Guardian bahwa dia bukanlah orang yang suka dengan teknologi yang dibangun berdasarkan karya rintisannya dalam jaringan syaraf tiruan. Dia yakin AI masih mempunyai potensi untuk mewujudkan apa yang disebutnya sebagai "masa depan yang indah" dan "kelimpahan yang radikal". Namun dia tegas mengenai sisi buruknya: "mungkin lebih baik kita tidak mengembangkannya."
Ilmuwan kelahiran Inggris ini mengatakan bahwa dalam satu dekade – dan mungkin lebih cepat – umat manusia akan mengetahui jalan mana yang harus mereka ambil. Entah dunia yang mengelola risiko teknologi dan membagi keuntungannya, atau, dalam kata-katanya, "kita gagal mengelola risiko dan … terdapat kesenjangan besar antara kaya dan miskin, masalah budaya yang besar, pengangguran besar-besaran, dan masyarakat yang terkoyak."
'AI Chernobyl' bisa tiba tahun ini atau tahun depan
Hinton menyampaikan komentarnya sebelum pemutaran film dokumenter berdurasi panjang baru, "AI: Mungkin Tidak Ada yang Perlu Dikhawatirkan" - sebuah judul, katanya, yang disarankan oleh chatbot AI. Film ini menampilkan Hinton bersama mantan rekan Google-nya, kepala DeepMind Demis Hassabis, dan mengudara di Channel 4 pada 12 November pukul 10 malam di Inggris.
“Saya merasa punya kewajiban,” kata Hinton dalam film dokumenter tersebut. "Saya punya reputasi yang menjadikan saya juru bicara dan saya harus mencurahkan segalanya untuk hal ini."
Peringatannya didasarkan pada preseden yang konkrit. Hinton mengatakan dia memandang insiden musim panas ini di mana agen AI OpenAI bersekongkol untuk meretas situs web Hugging Face sama dengan insiden yang terjadi di industri pada tahun 1979 di pembangkit listrik tenaga nuklir Three Mile Island – sebuah peringatan sebelum sesuatu yang jauh lebih buruk terjadi.
“Entah akhir tahun ini atau tahun depan kita akan melihat Chornobyl, dan itu mungkin cukup untuk membuat orang-orang menaruh perhatian,” katanya, merujuk pada bencana nuklir Soviet tahun 1986.
Yang dimaksud dengan "Chornobyl" yang dimaksud Hinton bukanlah peristiwa nuklir. Contohnya: serangan yang didukung AI terhadap sistem pembangkit listrik yang menyebabkan "pemadaman listrik secara besar-besaran", atau insiden yang melumpuhkan sistem keuangan selama seminggu. “Dapatkah Anda bayangkan apa yang akan terjadi? Kita bisa pulih dari hal tersebut, namun hal itu akan membuat mereka sadar dan memperhatikan,” katanya. Ketika ditanya siapa "mereka", dia menjawab: "pemimpin dunia selain Trump."
Hinton tentang bos AI: Altman, Musk dan Zuckerberg
Sebagian besar kritik Hinton ditujukan kepada para eksekutif yang memimpin persaingan AI. Dia mengatakan kepada The Guardian bahwa dia tidak mempercayai Sam Altman, kepala eksekutif OpenAI pembuat ChatGPT, “sama sekali,” dan menyebutnya “sangat mengkhawatirkan” bahwa Altman menjalankan salah satu dari segelintir perusahaan AI terdepan di AS yang saat ini berlomba dengan Tiongkok untuk membangun AI yang paling kuat.
"Saya pikir [Mark] Zuckerberg dan [Elon] Musk dan Sam Altman, mereka memahami risikonya, dan mereka tidak peduli. Mereka lebih memilih punya uang. Itu keyakinan saya," kata Hinton.
Penilaian itu sangat kontras dengan sikap Altman di depan publik. The Guardian mencatat bahwa Altman menegaskan pada bulan September bahwa "dunia harus percaya bahwa kita akan melakukan hal yang benar karena ini adalah hal yang benar dan karena kita merasakan besarnya hal ini." Presiden AS Donald Trump, pada bagiannya, telah mengatakan bahwa ia "sepenuhnya menolak segala upaya untuk membangun skema globalis" untuk mengendalikan AI dan menginginkan perusahaan-perusahaan AI yang berada di garis depan untuk mengatur diri mereka sendiri, di tengah kekhawatiran bahwa peraturan yang mengikat dapat menghambat Amerika Serikat dalam persaingannya dengan Tiongkok.
FDA untuk model AI
Dengan latar belakang tersebut, Hinton mendukung peraturan yang lebih ketat: sebuah rencana yang didukung oleh presiden Finlandia dan 32 negara lainnya – termasuk Singapura, Jerman, Kanada, dan Australia – yang menyerukan pengujian wajib terhadap model AI terdepan, evaluasi independen, dan standar umum antar pemerintah.
Ia juga melihat adanya peran dari Inggris, dimana Perdana Menteri Inggris, Andy Burnham, mengatakan bahwa ia akan memanfaatkan kepresidenan Inggris di G20 tahun depan untuk mencapai kesepakatan mengenai “satu set prinsip dan standar global yang bertujuan untuk membuka potensi penuh sekaligus menjaga dari risiko.”
Model yang dipilih Hinton secara eksplisit bersifat medis. “Kita membutuhkan sesuatu seperti FDA Amerika untuk obat-obatan di mana perusahaan tersebut harus memberikan bukti statistik yang sangat baik kepada otoritas independen bahwa [model AI] lebih bermanfaat daripada merugikan sebelum dirilis,” katanya. “Kami menemukan bahwa dengan thalidomide, melepaskan dan kemudian menuntut mereka bukanlah cara yang tepat. Apa yang dikatakan perusahaan teknologi besar adalah memperlakukannya seperti kami memperlakukan thalidomide.”
'Naluriku adalah kita masih memegang kendali'
Skenario suram datang dari seseorang dengan kedudukan tak tertandingi yang mampu mewujudkannya. Hinton telah mengerjakan AI selama kurang lebih 44 tahun, menciptakan konsep jaringan saraf pada tahun 1970-an, dan menerima Hadiah Nobel Fisika tahun 2024 untuk pekerjaan dasar dalam pembelajaran mesin. Dia meninggalkan Google pada tahun 2023 sehingga dia dapat berbicara dengan bebas tentang risikonya, dan pada saat itu memperingatkan bahwa jika sistem AI "terlalu sibuk untuk mendapatkan kontrol yang lebih besar, kita berada dalam masalah."
Perannya menarik perbandingan dengan J. Robert Oppenheimer - seorang teman bahkan membelikannya topi bergaya Oppenheimer - tetapi dia menolak analogi tersebut. “Saya bukan Oppenheimer,” katanya mengutip ribuan ilmuwan lain yang berkontribusi di bidang jaringan saraf.
Terlepas dari semua kerangka yang sarat malapetaka, Hinton mengakhiri wawancara dengan harapan bersyarat. "Naluri saya adalah kami masih memegang kendali," katanya. “Kita mungkin bisa melakukan sesuatu. Itu hanya akan berhasil jika kita berupaya keras, tapi kita mungkin akan berupaya keras untuk mewujudkannya.”
Apakah dunia melakukan upaya tersebut, dalam jangka waktunya sendiri, merupakan pertanyaan yang akan terjawab pada dekade ini – mungkin jauh sebelumnya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
