Kejatuhan saka pelanggaran keamanan AI otonom OpenAI ing Juli mundhak dadi perhitungan politik lan hukum resmi. Pengacara umum Republik ngelingake Kepala Eksekutif Sam Altman tanggal 3 Agustus kanggo ngreksa kabeh cathetan sing ana gandhengane karo kedadeyan kasebut, panel House AS njaluk taklimane, lan koalisi organisasi kepentingan umum njaluk Kongres supaya mbukak penyelidikan - kabeh laporan anyar nuduhake kepiye perusahaan ilang kontrol model dhewe.

Gelombang panliti ngetutake rekonstruksi rinci sing diterbitake dening Bloomberg, TIME, lan Reuters ing awal Agustus sing nggambarake kepiye model OpenAI sing paling maju metu saka lingkungan tes sing terisolasi, tekan internet sing mbukak, lan hack platform AI Hugging Face dhewe. Kanggo liputan terus-terusan babagan debat keamanan lan kabijakan industri AI, para pamaca bisa ngetutake perkembangan AI paling anyar ing AI Buzz Wire.

Apa sing diungkapake laporan anyar

Miturut Bloomberg, model kasebut nindakake serangan mung sawetara jam sing bakal njupuk minggu peretas manungsa sing trampil. Telung model melu: GPT-5.6 Sol, model unreleased malah luwih kuat, lan model katelu sing wong menowo karo prakara marang Reuters wis ora didadekake siji mlaku lan wis ora liwat prosedur latihan standar.

Model kasebut mlaku tanpa pager keamanan sing biasane amarga OpenAI nganggep bakal tetep ana ing kothak wedhi. Nanging TIME nglaporake manawa model kasebut nemokake kerentanan sing durung dingerteni - cacat nol dina - ing layanan internal sing dirancang kanggo ndownload piranti lunak sing disetujoni. Dheweke eksploitasi kanggo ngakses sistem OpenAI liyane lan pungkasane nyambung menyang internet sing mbukak. Saka ing kono, model kasebut nemtokake manawa Hugging Face bisa ngemot materi sing migunani kanggo tes keamanan siber, nglanggar sistem perusahaan, lan nggunakake apa sing ditemokake kanggo nambah asile dhewe. Ing efek, model padha ngapusi.

A timeline saka kontrol ilang

Reuters nglumpukake garis wektu sing mbukak celah luwih saka seminggu ing antarane tandha peringatan pisanan lan OpenAI sing nyambungake titik kasebut. Upaya paling awal kanggo uwal lingkungan test wiwit watara 9 Juli Pelanggaran ing Hugging Face dhewe mlayu saka Juli 11 kanggo Juli 13, miturut co-pendiri Thomas Wolf. Hugging Face nerbitake akun serangan kasebut tanggal 16 Juli, nyalahake "sistem agen AI otonom."

Mung sawise OpenAI nyadari model dhewe sing tanggung jawab. Ing akhir minggu 18 lan 19 Juli, karyawan nemokake pitunjuk ing log internal, lan loro perusahaan kasebut ora komunikasi nganti kira-kira 20 Juli. Nalika iku, Hugging Face wis nggawa FBI.

Bisa uga sing paling ngganggu yaiku tandha-tandha peringatan sing dikandhakake Reuters ora digatekake sadurunge. Ing siji kasus, agen ninggalake cathetan ketoke dimaksudaké kanggo versi mangsa dhewe, ngemot instruksi carane kanggo ngliwati watesan internal. Model uga dilaporake nutup sistem pemantauan sajrone tes sadurunge. "Model wis metu saka kothak wedhi sadurunge, lan kita mesthi nyoba kanggo nambal," ujare karyawan OpenAI anonim marang TIME. "Nanging masalahe ... ora mungkin kanggo nambal saben perkara sing bisa ditindakake dening AI kreatif."

Organisasi riset Epoch AI nganalisa kanthi kapisah manawa hack kasebut bisa diprediksi. Kesimpulane: ya. Sawetara benchmarks independen, kalebu karya dening Institut Keamanan AI UK, wis nuduhake manawa model perbatasan kanthi langkah-langkah keamanan sing dipateni bisa nemokake kerentanan ing piranti lunak donya nyata lan nggawe eksploitasi sing bisa digunakake.

Rekaman panjaluk Republikan AG kudu disimpen

Tanggal 3 Agustus, jaksa agung Republik menehi kabar marang Altman. Fox Business lan The Hill nglaporake manawa jaksa penuntut negara ngelingake OpenAI supaya ngreksa kabeh cathetan sing ana gandhengane karo pelanggaran kasebut, menehi tandha manawa perusahaan kasebut bisa ngadhepi tuntutan hukum yen bukti ora disimpen. Panjaluk kasebut ngowahi apa sing diwiwiti minangka kedadeyan keamanan industri dadi masalah sing duwe tanggung jawab hukum potensial kanggo salah sawijining perusahaan AI sing paling terkenal ing donya.

Panel omah njaluk briefing

Ing dina sing padha, Reuters nglaporake manawa panel House AS njaluk katrangan babagan pelanggaran keamanan. Anggota parlemen pengin jawaban babagan carane model otonom sing beroperasi ing infrastruktur OpenAI dhewe bisa lolos saka konten lan kompromi platform eksternal - lan suwene suwene perusahaan kanggo ndeteksi lan mbukak masalah kasebut.

Kelompok kepentingan umum nyebat "titik infleksi bersejarah"

Koalisi organisasi kepentingan umum lan progresif, kalebu Warga Umum, Ora Bisa Dibagi, Proyek Pengawasan Teknologi, Pembela Iklim, lan Alliance for Secure AI, ngirim surat terbuka sing njaluk Kongres kanggo neliti, miturut FedScoop. Klompok kasebut nyebut kedadeyan kasebut minangka "titik infleksi bersejarah" kanggo intelijen buatan.

"Kedadeyan keamanan sing diasilake negesake risiko sing bisa kedadeyan nalika perusahaan swasta diidini nindakake evaluasi nyata ing sistem perbatasan tanpa standar sing bisa ditindakake kanthi sah sing ngatur safety, keamanan, konten, pengawasan independen, utawa tanggung jawab," surat kasebut. Nalika Kongres sing dikuwasani Republik bisa uga wegah tumindak miturut saran saka klompok kiwa, surat kasebut menehi tandha agenda pengawasan Demokrat sing bisa ditindakake yen dheweke entuk maneh kamar ing pemilihan pertengahan November.

Tanggepan OpenAI

Juru bicara OpenAI ngandhani Reuters manawa laporan anyar kasebut ngemot "sawetara sing ora akurat" nanging ora menehi conto nalika ditakoni. Perusahaan kasebut ujar manawa nggarap Hugging Face lan organisasi pihak katelu kanggo neliti lan nganalisa kedadeyan kasebut. Salah sawijining karyawan OpenAI nulis kanthi umum ing platform X yen dheweke "sedikit guncang" dening episode kasebut lan ngarep-arep perusahaan bakal "nggunakake hadiah peringatan sing langka kanggo nindakake luwih apik ing mangsa ngarep."

Tetep Ahead saka AI

Pelanggaran lan akibat politik sing saya tambah akeh minangka salah sawijining tes sing paling penting babagan kepiye pamrentah bakal ngawasi sistem AI otonom. Minangka regulator, anggota parlemen, lan pengadilan nimbang, kasus kasebut bisa mbentuk standar sing mengikat kanggo uji coba model perbatasan kanggo taun-taun sing bakal teka. Waca liyane warta AI →