Gelombang bebaya umum saka njero Anthropic saya tambah minggu iki amarga sawetara peneliti ing perusahaan AI nyuarakke penilaian apokaliptik mantan rekan kerja babagan intelijen buatan - nggambar respon scornful saka Elon Musk, sing ngusulake protes kasebut minangka "psyop" sing terkoordinasi.
Miturut The Guardian, eskalasi kasebut kedadeyan sedina sawise peneliti Anthropic Jacob Coxon ngumumake mundur ing kiriman virus, nulis manawa Anthropic utawa OpenAI - mantan majikane - ora mbangun model AI kanthi tanggung jawab lan "judi karo urip kita." Tinimbang sirna, kontroversi kasebut saya tambah amarga staf Anthropic saiki ngirim penilaian sing nggegirisi kanggo ndhukung. For more context on this story, see our ongoing AI trends.
Peringatan Tumpukan
Anna Wang, sing kerja ing keamanan intelijen umum buatan ing Anthropic lan sadurunge kerja ing DeepMind Google, ujar dina Kamis manawa akeh wong ing perusahaan kasebut pengin alon-alon pangembangan kanggo ngrancang risiko sing ditimbulake dening model sing luwih apik.
"Durung ana rencana ilmiah sing sregep kanggo ngatasi risiko saka AI sing ningkatake diri kanthi rekursif," Wang nulis ing X.
Karyawan Anthropic liyane, Drake Thomas, ujar manawa dheweke ngajeni keputusan Coxon kanggo mundur saka mbangun teknologi kasebut. "Kabecikan saya cepet banget, kita ora duwe tingkat jaminan sing dikarepake kanggo ASI [superintelligence buatan]," tulis Thomas.
Samuel Marks, sing nggarap riset safety ing perusahaan kasebut, negesake manawa keprihatinan kasebut umume digunakake ing industri kasebut - lan senioritas kasebut ana hubungane karo weker. "Pengembang AI percaya yen teknologi bisa nyebabake kepunahan manungsa (utawa asil sing padha)," tulis Marks. "Iki bisa kedadeyan ing sawetara taun sabanjure. Umume, karyawan sing luwih senior, luwih prihatin."
Evan Hubinger, sing nggambarake awake dhewe minangka pimpinan ing divisi keselarasan Anthropic, dadi paling adoh. "Kita pancen percaya yen AI bisa mateni kabeh manungsa!" Hubinger nulis, nambahake manawa dheweke nggawe kemungkinan luwih saka 10 persen sajrone dekade sabanjure.
Cathetan Insider ngetutake laporan dening CBS News manawa peneliti Anthropic menehi kasempatan luwih saka 10 persen kanggo AI sing nyebabake kepunahan manungsa, lan liputan dening The Japan Times manawa bebaya kasebut wis nggawe panggilan anyar kanggo aturan AI anyar ing Amerika Serikat.
Musk: 'Koyone Kaya Setup'
Elon Musk njupuk tampilan mungsuh banget. "Katon kaya persiyapan," wong paling sugih ing donya nulis ing X, platform sosial dhewe.
Coxon mangsuli karo selfie: "Aku nyata lan iki kapercayan nyata. Sampeyan bisa takon peneliti xAI babagan aku yen sampeyan ora dipecat."
Musk lan swara simpatik liyane nggedhekake teori sing diambangake dening Parker Thayer, peneliti ing think tank konservatif Capital Research, sing nyaranake - kanthi bukti sing sithik, The Guardian nyathet - yen kiriman Coxon minangka pambuka "operasi PR sing canggih lan didanai kanthi apik kanggo njaluk dhukungan kanggo Demokrat kanggo ngatur AI supaya ora dilalekake."
Manajer dana pager milyar Bill Ackman ngutip kiriman Thayer kanthi wangsulan siji tembung: "Menarik."
Musk banjur njlentrehake. "Aku mikir dhasar kanggo psy op iki (amarga kekurangan istilah sing luwih apik) wis disiapake suwene suwe," ujare. "Iki mung pertandingan sing murub geni."
Anthropic Mbela Pendekatane
Dicekel ing antarane bebaya lan serangan karyawan dhewe saka njaba, Anthropic menehi tanggapan umum sing diukur.
"Kita mesthi transparan yen AI bakal nggawa keuntungan gedhe lan risiko sing durung ana sadurunge," ujare juru bicara perusahaan marang The Guardian. "Kanggo ngatasi risiko kasebut, kita terus nggawe model kanthi sawetara proteksi paling kuat ing industri kasebut."
Perusahaan kasebut nuduhake rekaman rekaman lan ngganggu penyalahgunaan. Ing dina sing padha, bebaya kasebut nyebar, Anthropic ngrilis laporan intelijen ancaman September, sing rinci babagan carane perusahaan mbubarake operasi sing nyoba nggawe senjata biologis nggunakake model AI - bebarengan karo kampanye sing diganggu babagan serangan cyber lan operasi pengaruh. Al Jazeera lan BBC minangka salah sawijining toko sing nyoroti temuan bioweapons ing dina Jumuah.
Skeptics Deleng Resiko sing Beda
Ora saben wong nampa framing punah. Gary Marcus, ilmuwan lan kritikus AI sing wis suwe, ujar manawa teknologi kasebut wis nyebabake cilaka sing njamin tumindak tanpa dipikirake babagan skenario superintelligence - njaluk boikot AI amarga karusakan saiki.
Luwih saka punah, Marcus ngandhani The Guardian yen dheweke kuwatir babagan "risiko bencana" saka "patogen sing ditimbulake AI, saka perang sing diwiwiti utawa ditambah dening disinformasi sing digawe AI, saka peretasan sing ngrusak infrastruktur kritis, lan liya-liyane.
Posisi kasebut negesake pamisah ing debat keamanan AI dhewe: antarane sing fokus ing risiko jangka panjang, skala peradaban saka sistem mangsa ngarep, lan sing fokus ing cilaka konkrit saka model saiki.
Debat sing Nolak Tetep Internal
Sing diwiwiti minangka surat pengunduran diri peneliti wis dadi referendum umum babagan carane industri AI mbangun sistem sing paling kuat. Ing Anthropic, karyawan debat kanthi terbuka manawa garis wektu dhewe kanggo pangembangan aman wis suda. Ing njaba, peringatan kasebut dilipat dadi perang politik sing saya polarisasi babagan apa lan kepiye pemerintah kudu campur tangan.
Pelaporan Guardian nuduhake manawa akeh staf Anthropic nuduhake keprihatinan kasebut kanthi pribadi nanging durung ngomong sacara umum. Yen luwih akeh sing ngetutake Coxon, Wang, Thomas, Marks, lan Hubinger, tekanan kanggo ngarahake laboratorium AI supaya alon - lan regulator tumindak - mung bakal tuwuh.
_Artikel iki adhedhasar laporan dening The Guardian, kanthi konteks tambahan saka CBS News, The Japan Times, Al Jazeera, lan BBC._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
