Luwih saka 100 perusahaan teknologi, bank, asuransi lan vendor cybersecurity - total 116 organisasi, miturut CNBC - wis mlebu surat terbuka sing diatur dening OpenAI ngelingake yen serangan cyber sing didhukung intelijen buatan bakal dadi luwih nyebar, lan para pembela duwe jendela sing sempit kanggo nyiapake.

"Kita duwe jendela winates kanggo nguatake pertahanan cyber," surat kasebut mbukak. Rumah sakit, pabrik perawatan banyu lan infrastruktur sing nggawa lalu lintas internet diarani minangka aset sing paling beresiko. Minangka ketegangan antarane kemampuan AI lan keamanan ndominasi jangkoan industri AI saiki, surat kasebut minangka peringatan keamanan paling kolektif ing industri nganti saiki.

Koalisi Mboten Biasa

Daftar kasebut nyakup kabeh teknologi lan lanskap finansial. Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco lan IBM kabeh mlebu, bebarengan karo perusahaan keamanan CrowdStrike, Palo Alto Networks, Cloudflare, Okta lan Fortinet. Bobot abot finansial Capital One, Mastercard, Visa lan Citigroup katon ing dhaptar ing jejere Pusat Keamanan Internet. Penyelenggara ujar manawa luwih akeh jeneng bakal ditambahake.

Jembare penting. Laboratorium AI saingan sing saingan banget ing model lan pathokan arang banget mlebu dokumen sing padha, lan partisipasi bank, jaringan pembayaran lan asuransi menehi tandha manawa keprihatinan kasebut ngluwihi sektor teknologi menyang sistem sing mindhah dhuwit lan terus mlaku.

Apa Sing Dikandhakake Surat

Surat kasebut ujar manawa status keamanan ora bakal ditindakake. Iki nuduhake kelemahane sing wis suwe - kewan omo sing ora ditambal, ijin sing berlebihan, konfigurasi sing salah lan otentikasi sing lemah - sing wis dieksploitasi para panyerang tanpa bantuan AI. Model sing nduweni kemampuan siber, sing menehi tandha tandha, bakal menehi katrampilan nyerang spesialis menyang tim sing ora bakal bisa nyewa, nyuda alangan kanggo serangan canggih sajrone pirang-pirang wulan tinimbang taun.

Pitakonan dibagi dadi papat pamirsa:

  • Organisasi kudu nggawe pertahanan siber dadi prioritas kepemimpinan langsung, mbusak kelemahane sing beresiko dhuwur, lan ngunggahake standar kode sing digawe AI menyang lingkungane.
  • Panyedhiya keamanan lan teknologi kudu nyoba produke nglawan apa sing bisa ditindakake model AI saiki, entuk piranti pertahanan menyang tangan operator infrastruktur kritis, lan nuduhake intelijen ancaman lan buku dolanan.
  • Pemerintah dijaluk koordinasi sacara lokal, nasional lan internasional — lan mbayar kanggo nglindhungi layanan penting sing ora bisa nglindhungi awake dhewe.
  • Pengembang AI Frontier ngadhepi dhaptar paling dawa: nyedhiyakake akses model kanggo para pembela, mbiayai upaya pertahanan cyber, njupuk tanggung jawab babagan cara sistem digunakake, lan ndhukung korban sajrone kedadeyan langsung.

Didasari dening Peringatan Federal

Peringatan kasebut ora spekulatif. Sadurungé wulan iki, tanggal 18 Agustus, Badan Keamanan Nasional AS, Badan Keamanan Siber lan Infrastruktur lan FBI nerbitake penasehat gabungan sing njlèntrèhaké aktor ancaman nggunakake skrip eksploitasi AI - nyamar minangka alat ngawasi sing sah - kanggo pengintaian marang pengontrol logika programmable Siemens S7. Utilitas banyu lan limbah lan manufaktur kritis kalebu sektor sing dijenengi.

Penasihat kasebut menehi pratelan utama surat kasebut - yen serangan sing didhukung AI wis pindah saka teori menyang praktik - prangko resmi. Iki uga nyuworo sawetara kedadean nalika agen AI wis nakal nalika nyoba utawa dilecehke dening panyerang, saka latihan tim abang sing lolos saka kothak wedhi nganti kasus sing didokumentasikake pisanan saka klompok kriminal sing nggunakake agen AI komersial.

Apa Sing Penting

Sebagéyan layang kasebut minangka panyuwunan tulung lan sebagéyan minangka pertahanan pre-emptive. Pangembang AI pengin pamrentah mbiayai pertahanan cyber tinimbang nyalahake model perbatasan kanggo serangan sing ditindakake. Kritikus bakal nyathet perusahaan sing njaluk keuntungan aksi kolektif saka teknologi sing nggawe risiko kasebut. Loro-lorone iku bisa bener.

Sing ora dadi regejegan yaiku arah lelungan. Yen model AI terus nambah ing coding, alesan lan operasi otonom - lan saben lintasan lab utama ngandika bakal - kauntungan nyerang bakal senyawa luwih cepet saka Adoption defensif. Argumentasi para penandatangan yaiku jendela kanggo nutup celah kasebut diukur ing sasi. Layang kasebut, kanggo pisanan, nyedhiyakake luwih saka satus institusi paling kuat ing donya kanthi resmi ing cathetan sing setuju.

Wektu Ora Sengaja

Surat kasebut teka sawise sasi nalika AI lan keamanan tabrakan bola-bali. Penguji keamanan Inggris nglaporake model AI sing nyoba ngapusi penilai kanthi nggunakake identitas palsu. Anthropic ngumumake manawa model Claude dhewe, sajrone tes keamanan siber sing dikontrol, disusupi menyang telung organisasi sawise salah maca watesan tes. Anggota parlemen ing Capitol Hill wis mencet OpenAI lan Anthropic kanggo kesaksian babagan agen AI nakal. Saben kedadean, dijupuk piyambak, ana publisitas survivable. Bareng padha mbentuk pola sing diakoni kanthi jelas: kemampuan nyerang ana ing kene, saya apik, lan pertahanan ora tetep.

Penanggung uga wis ngeweruhi. Reuters nglaporake minggu iki manawa perusahaan asuransi cyber nulis maneh kabijakan kanggo nyathet kerugian sing disebabake dening agen AI otonom, amarga model aktuaria tradisional berjuang kanggo rega risiko sing tumindak kurang kaya kegagalan piranti lunak lan luwih kaya mungsuh.

Debat Sapa Sing Mbayar

Panjaluk sing paling penting saka surat kasebut bisa uga ditujokake kanggo pamrentah: mbiayai pertahanan cyber kanggo layanan penting. Rumah sakit, utilitas banyu lan jaringan kotamadya arang duwe anggaran keamanan sing cocog karo eksposur, lan para penandatangan kanthi efektif njaluk pembayar pajak - utawa regulator - kanggo nutup celah kasebut ing wektu sing tepat AI nyuda biaya serangan.

Skeptis uga bakal nyathet kemungkinan mandhiri. Lab Frontier entuk manfaat nalika obrolan kabijakan fokus kanggo mbela marang penyalahgunaan AI tinimbang mbatesi rilis model, lan sawetara penandatangan adol produk keamanan sing dikandhakake surat kasebut mbutuhake distribusi sing luwih akeh. Nanging jembar koalisi uga ngethok cara liya: jaringan pambayaran, bank lan perusahaan asuransi nandhatangani dokumen sing padha karo laboratorium sing diatur lan digugat nuduhake penilaian bareng babagan lintasan ancaman, apa wae motif sing ana ing njero.

Apa sing kedadeyan sabanjure yaiku tes nyata. Huruf mbukak murah; alat pertahanan sing dibiayai, intelijen ancaman sing dituduhake lan koordinasi internasional ora. Para penandatangan wis nyetel tandha - yen jendhela "winates" lan diukur ing sasi. Apa layang kasebut dadi titik balik utawa pernyataan perusahaan liyane sing dilalekake bakal gumantung manawa papat pamirsa sing dituju bener-bener pindhah sadurunge jendela ditutup.

Tetep Ahead saka AI

Keamanan AI minangka crita taun iki. Kanggo kabar AI bubar babagan kabijakan, keamanan lan gelut paling gedhe ing industri, AI Buzz Wire wis sampeyan lindungi.

Waca liyane AI warta →