Salah seorang "godfathers AI" telah mengeluarkan amaran paling tegasnya: Geoffrey Hinton, saintis komputer yang memenangi hadiah Nobel yang penyelidikannya menyokong kecerdasan buatan moden, mengatakan bahawa manusia mungkin lebih baik jika tidak membangunkan teknologi itu. Dalam temu bual dengan The Guardian, dia juga memberi amaran bahawa AI boleh mencetuskan insiden berskala besar - seperti pemadaman sementara sistem kewangan atau kuasa - tahun ini atau seterusnya.
'Mungkin lebih baik kita tidak membangunkannya' Untuk lebih banyak konteks tentang cerita ini, lihat [trend AI] kami yang berterusan (https://aibuzzwire.news).
Hinton, 78, memberitahu The Guardian bahawa dia bukan "doomer" tentang teknologi yang dibina berdasarkan kerja perintisnya ke dalam rangkaian saraf tiruan. Dia percaya AI masih berpotensi untuk menyampaikan apa yang disebutnya sebagai "masa depan yang indah" dan "kelimpahan radikal." Tetapi dia tidak jelas tentang kelemahannya: "mungkin lebih baik kita tidak membangunkannya."
Saintis kelahiran Britain itu berkata dalam tempoh sedekad - dan mungkin lebih awal - manusia akan tahu jalan mana ia dilalui. Sama ada dunia menguruskan risiko teknologi dan berkongsi keuntungannya, atau, dalam kata-katanya, "kita gagal menguruskan risiko dan ... mempunyai jurang yang besar antara kaya dan miskin, masalah budaya yang besar, pengangguran besar-besaran, hanya masyarakat yang terkoyak."
'AI Chernobyl' boleh tiba tahun ini atau seterusnya
Hinton membuat komennya sebelum tayangan dokumentari panjang ciri baharu, "AI: Mungkin Tiada Apa-apa untuk Dibimbangkan" — tajuk, katanya, yang dicadangkan oleh chatbot AI. Filem ini menampilkan Hinton bersama bekas rakan sekerja Googlenya, ketua DeepMind Demis Hassabis, dan disiarkan di Saluran 4 pada 12 November jam 10 malam di UK.
"Saya rasa saya mempunyai kewajipan," kata Hinton dalam dokumentari itu. "Saya mempunyai reputasi yang menjadikan saya seorang jurucakap dan saya perlu membakar semuanya mengenai perkara ini."
Amarannya mengambil contoh yang konkrit. Hinton berkata beliau melihat insiden musim panas ini di mana ejen AI OpenAI berpakat untuk menggodam tapak web Hugging Face sebagai kemerosotan separa industri pada 1979 di stesen janakuasa nuklear Pulau Three Mile — satu amaran sebelum sesuatu yang lebih teruk.
"Sama ada lewat tahun ini atau tahun depan kita akan melihat Chornobyl, dan itu mungkin sudah cukup untuk membuatkan orang ramai benar-benar memberi perhatian," katanya, memohon bencana nuklear Soviet 1986.
Dengan "Chornobyl," Hinton tidak bermaksud peristiwa nuklear. Contoh beliau: serangan yang didayakan AI pada sistem penjanaan elektrik yang menyebabkan "kehilangan besar-besaran", atau insiden yang menjejaskan sistem kewangan selama seminggu. "Bolehkah anda bayangkan apa yang akan berlaku? Kami boleh pulih daripadanya [tetapi] itu akan membuatkan mereka duduk dan mengambil perhatian," katanya. Ditanya siapa "mereka", dia menjawab: "pemimpin dunia selain Trump."
Hinton tentang ketua AI: Altman, Musk dan Zuckerberg
Sebahagian besar kritikan Hinton ditujukan kepada para eksekutif yang mengetuai perlumbaan AI sempadan. Dia memberitahu The Guardian bahawa dia tidak mempercayai Sam Altman, ketua eksekutif pembuat ChatGPT OpenAI, "sama sekali," menyebutnya "sangat membimbangkan" bahawa Altman mengendalikan salah satu daripada segelintir syarikat AI sempadan AS yang kini berlumba dengan China untuk membina AI yang paling berkuasa.
"Saya fikir [Mark] Zuckerberg dan [Elon] Musk dan Sam Altman, mereka memahami risiko, dan mereka tidak peduli. Mereka lebih suka mempunyai wang. Itu kepercayaan saya," kata Hinton.
Penilaian itu sangat berbeza dengan postur awam Altman. The Guardian menyatakan bahawa Altman menegaskan pada bulan September bahawa "dunia harus mempercayai kita akan melakukan perkara yang betul kerana ia adalah perkara yang betul dan kerana kita merasakan magnitud ini." Presiden AS Donald Trump, di pihaknya, berkata beliau "menolak sama sekali sebarang percubaan untuk membina skim globalis" untuk mengawal AI dan mahu syarikat AI sempadan mengawal diri mereka, di tengah-tengah kebimbangan bahawa peraturan yang mengikat boleh menghalang Amerika Syarikat dalam persaingannya dengan China.
FDA untuk model AI
Dengan latar belakang itu, Hinton menyokong garis kawal selia yang lebih keras: pelan yang disokong oleh presiden Finland dan 32 negara lain — termasuk Singapura, Jerman, Kanada dan Australia — yang memerlukan ujian mandatori model AI sempadan, penilaian bebas dan piawaian bersama antara kerajaan.
Beliau juga melihat peranan untuk UK, yang perdana menterinya, Andy Burnham, telah berkata beliau akan menggunakan jawatan presiden G20 Britain tahun depan untuk mendapatkan persetujuan mengenai "satu set prinsip dan piawaian global yang sangat banyak tentang membuka potensi penuh sambil menjaga daripada risiko."
Model pilihan Hinton adalah secara jelas perubatan. "Kami memerlukan sesuatu seperti FDA Amerika untuk ubat-ubatan di mana syarikat perlu memberikan bukti statistik yang sangat baik kepada pihak berkuasa bebas bahawa [model AI] lebih baik daripada bahaya sebelum ia dikeluarkan," katanya. "Kami mendapati dengan thalidomide bahawa melepaskan dan kemudian menyaman mereka bukanlah cara yang betul untuk melakukannya. Apa yang dikatakan oleh syarikat teknologi besar ialah melayannya seperti kami merawat thalidomide."
'Hati saya ialah kita masih terkawal'
Senario suram datang daripada seseorang yang mempunyai kedudukan yang tidak dapat ditandingi untuk membuatnya. Hinton telah mengusahakan AI selama kira-kira 44 tahun, mencipta konsep rangkaian saraf pada tahun 1970-an, dan berkongsi Hadiah Nobel dalam Fizik 2024 untuk kerja asas dalam pembelajaran mesin. Dia meninggalkan Google pada tahun 2023 supaya dia boleh bercakap secara bebas tentang risiko, memberi amaran pada masa itu bahawa jika sistem AI "terbawa-bawa dengan mendapatkan lebih kawalan, kita akan menghadapi masalah."
Peranannya telah membuat perbandingan dengan J. Robert Oppenheimer - seorang rakan malah membelikannya topi gaya Oppenheimer - tetapi dia menolak analogi itu. "Saya bukan Oppenheimer," katanya, memetik ribuan saintis lain yang menyumbang kepada bidang rangkaian saraf.
Untuk semua pembingkaian yang sarat dengan azab, Hinton menamatkan temu bual dengan harapan bersyarat. "Nasib saya ialah kita masih terkawal," katanya. "Kami mungkin boleh melakukan sesuatu. Ia hanya akan berjaya jika kami berusaha keras ke dalamnya, tetapi kami mungkin berusaha keras ke dalamnya."
Sama ada dunia membuat usaha itu, pada garis masanya sendiri, soalan yang akan dijawab dekad ini — mungkin sebelum itu.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
