Salah sawijining "godfathers AI" wis nerbitake bebaya sing paling angel: Geoffrey Hinton, ilmuwan komputer sing menang hadiah Nobel sing riset ndhukung intelijen buatan modern, ujar manawa manungsa bakal luwih apik yen ora ngembangake teknologi kasebut. Ing wawancara karo The Guardian, dheweke uga ngelingake yen AI bisa nyebabake kedadeyan skala gedhe - kayata pemadaman sementara sistem finansial utawa tenaga - taun iki utawa sabanjure.
'Mungkin luwih becik yen ora nate ngembangaken' Kanggo konteks liyane babagan crita iki, deleng [tren AI] (https://aibuzzwire.news).
Hinton, 78, ngandhani The Guardian yen dheweke dudu "doomer" babagan teknologi sing dibangun ing karya perintis menyang jaringan syaraf tiruan. Dheweke percaya yen AI isih duwe potensi kanggo ngirim apa sing diarani "masa depan sing apik" lan "kelimpahan radikal." Nanging dheweke ora jelas babagan kekurangane: "Bisa uga kita luwih becik ora nate ngembangake."
Ilmuwan kelahiran Inggris kasebut ujar manawa sajrone sepuluh taun - lan bisa uga luwih cepet - manungsa bakal ngerti dalane. Salah siji donya ngatur risiko teknologi lan nuduhake keuntungan, utawa, ing tembung, "kita gagal kanggo ngatur risiko lan ... duwe longkangan ageng antarane sugih lan miskin, masalah budaya ageng, pengangguran massive, mung masyarakat kang ambruk loro."
'AI Chernobyl' bisa teka ing taun iki utawa sabanjure
Hinton nggawe komentar sadurunge screening saka dokumenter dawa fitur anyar, "AI: Mbokmenawa Nothing to Worry About" - judhul, dheweke nyathet, sing disaranake dening chatbot AI. Film kasebut nampilake Hinton bebarengan karo mantan kolega Google, pimpinan DeepMind Demis Hassabis, lan ditayangake ing Channel 4 tanggal 12 November jam 10 bengi ing Inggris.
"Aku rumangsa duwe tugas," ujare Hinton ing dokumenter kasebut. "Aku duwe reputasi sing ndadekake aku dadi juru bicara lan aku kudu ngobong kabeh babagan iki."
Pèngeté nggambar preseden konkrit. Hinton ujar manawa dheweke ndeleng kedadeyan musim panas iki ing ngendi agen AI OpenAI bersekongkol kanggo hack menyang situs web Hugging Face minangka industri sing padha karo krisis parsial 1979 ing stasiun tenaga nuklir Three Mile Island - minangka peringatan sadurunge kedadeyan sing luwih elek.
"Sampeyan mengko taun iki utawa taun ngarep kita bakal weruh Chornobyl, lan bisa uga cukup kanggo nggawe wong pancene menehi perhatian," ujare, ngundang bencana nuklir Soviet 1986.
Miturut "Chornobyl," Hinton ora ateges acara nuklir. Conto: serangan AI-aktif ing sistem ngasilake listrik sing nimbulaké "brownout massive," utawa kedadean sing njupuk mudhun sistem financial kanggo minggu. "Apa sampeyan bisa mbayangno apa sing bakal kelakon? Kita bisa pulih saka iku [nanging] sing bakal nggawe dheweke lungguh lan njupuk kabar," ujare. Ditakoni sapa "dheweke", dheweke mangsuli: "pemimpin donya liyane saka Trump."
Hinton ing panggedhe AI: Altman, Musk lan Zuckerberg
Sebagean penting saka kritik Hinton ditujokake marang para eksekutif sing mimpin balapan AI perbatasan. Dheweke kandha marang The Guardian yen dheweke ora percaya marang Sam Altman, kepala eksekutif ChatGPT-maker OpenAI, "kabeh," nyebutake "banget kuwatir" yen Altman mbukak salah sawijining sawetara perusahaan AI AS sing saiki balapan China kanggo mbangun AI sing paling kuat.
"Aku mikir [Mark] Zuckerberg lan [Elon] Musk lan Sam Altman, padha ngerti risiko, lan padha ora menehi apa-apa. Dheweke luwih seneng duwe dhuwit. Sing yakin, "Hinton ngandika.
Assessment kasebut kontras banget karo postur umum Altman. The Guardian nyathet yen Altman negesake ing wulan September yen "donya kudu percaya yen kita bakal nindakake perkara sing bener amarga iku bener lan amarga kita ngrasakake gedhene iki." Presiden AS Donald Trump, kanggo bageane, ujar manawa "nolak kabeh upaya kanggo nggawe skema globalis" kanggo ngontrol AI lan pengin perusahaan AI ing wates kanggo ngatur awake dhewe, amarga ana keprihatinan manawa aturan sing mengikat bisa ngalangi Amerika Serikat ing kompetisi karo China.
FDA kanggo model AI
Ing latar mburi kasebut, Hinton nyetujui garis peraturan sing luwih angel: rencana sing didhukung dening presiden Finlandia lan 32 negara liyane - kalebu Singapura, Jerman, Kanada lan Australia - sing mbutuhake uji coba wajib model AI perbatasan, evaluasi mandiri, lan standar umum antar pemerintah.
Dheweke uga ndeleng peran kanggo Inggris, sing perdana menteri, Andy Burnham, ujar manawa bakal nggunakake kepresidenan G20 Inggris taun ngarep kanggo njaluk persetujuan babagan "sawijining prinsip lan standar global sing akeh banget babagan mbukak kunci potensial nalika njaga risiko."
Model sing disenengi Hinton kanthi jelas medis. "Kita butuh kaya FDA Amerika kanggo obat-obatan ing ngendi perusahaan kudu menehi bukti statistik sing apik banget marang otoritas independen yen [model AI] luwih apik tinimbang gawe piala sadurunge dirilis," ujare. "Kita nemokake karo thalidomide yen ngeculake lan nuntut dheweke dudu cara sing bener.
'Aku isih bisa ngontrol'
Skenario surem teka saka wong karo ngadeg unmatched kanggo nggawe wong. Hinton wis nggarap AI kira-kira 44 taun, nggawe konsep jaringan saraf ing taun 1970-an, lan nuduhake Bebungah Nobel Fisika 2024 kanggo karya dhasar ing pembelajaran mesin. Dheweke ninggalake Google ing taun 2023 supaya bisa ngomong kanthi bebas babagan risiko kasebut, ngelingake yen yen sistem AI "dibawa dening kontrol liyane, kita bakal ngalami masalah."
Perané wis mbandhingaké karo J. Robert Oppenheimer - kanca malah tuku topi gaya Oppenheimer - nanging nolak analogi kasebut. "Aku dudu Oppenheimer," ujare, nyatakake ewonan ilmuwan liyane sing nyumbang ing bidang jaringan saraf.
Kanggo kabeh framing siksa-laden, Hinton mungkasi Interview ing cathetan kondisional pangarep-arep. "Intine aku isih bisa ngontrol," ujare. "Kita bisa uga bisa nindakake soko. Iku mung bakal bisa yen kita sijine amba efforts menyang, nanging kita uga bisa sijine amba efforts menyang iku."
Apa jagad iki nggawe upaya kasebut, ing garis wektu dhewe, pitakonan sing bakal dijawab dasawarsa iki - bisa uga sadurunge.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
