Operasi nyengat skala gedhe nglawan pipa industri AI wis nyathet apa sing kedadeyan karo pangguna sing dikirim saben dina - lan jawabane: bocor. Peneliti keamanan HD Moore, kepala peneliti perusahaan keamanan industri Dragos, ngirim meh rong yuta panjaluk AI sing ngemot rahasia unik sing bisa dilacak menyang panyedhiya AI lan banjur mirsani ing ngendi rahasia kasebut muncul. "Apa sing ditemokake ngungkapake pelanggaran keamanan, nyolong cepet, lan kegagalan nyebar kanggo nglindhungi data pelanggan," tulis Moore ing laporan sing diterbitake Kamis.

Temuan kasebut, dilaporake kanthi rinci dening Ars Technica, teka minangka router AI - layanan broker kayata OpenRouter lan Vercel sing nampa pituduh saka pangguna pungkasan lan nuntun menyang panyedhiya inferensi sing paling murah utawa paling cocog - wis dadi infrastruktur inti kanggo ewu aplikasi. Padha uga micu respon industri cepet: OpenRouter nerbitaké woro-woro kedadean dhewe ing November 22, ngandika iku wis mati-boarded telung panyedhiya, mbusak 125 endpoints saka Zero Data Retention nduweni hak lan kabar pelanggan potensial kena pengaruh.

Carane Trap Canary Bisa

Moore nglumpukake koleksi kunci akses AWS sing disambungake menyang akun kosong, sandhi SSH sing digunakake, lan URL unik, jeneng DNS lan referensi repositori git pribadi. Ora ana rahasia sing wis digunakake sadurunge, lan Moore ngontrol infrastruktur ing mburi. Saben rahasia diwutahake dadi siji pituduh sing dikirim menyang panyedhiya siji - dadi yen rahasia kasebut muncul ing endi wae, perjalanan kasebut bisa dilacak maneh menyang tautan sing tepat ing rantai sing tanggung jawab.

Desain kasebut penting amarga kepiye ekosistem AI pancen mindhah data. Pituduh dienkripsi nalika transit, nanging didekripsi ing saben hop. Router AI maca plaintext kanggo milih panyedhiya inferensi sing cocog; pituduh banjur asring diterusake menyang blumbang model, kadhangkala mlaku nang perusahaan hosting beda. Pituduh malah bisa ngliwati saka siji router menyang liyane - Vercel menyang OpenRouter, umpamane - kanthi saben perantara bebas log lan nyimpen konten kasebut miturut kabijakan dhewe.

Telung Panyedhiya Dilanggar, Tombol Digunakake sajrone Jam

Temuan sing paling nguwatirake kalebu telung panyedhiya hosting sing kapisah sing dikompromi sajrone eksperimen kasebut. Miturut Moore, panyerang sing nglanggar salah sawijining panyedhiya nggunakake maneh "saperangan atus" tombol AWS sing ditanam. Saben kunci wis dikirim kanthi persis siji panyuwunan menyang siji panyedhiya, ing sawetara jendhela cendhak ing pungkasan Oktober - lan "saben panjaluk sing dikirim nalika jendhela kasebut dicolong." Sing penting, sawetara kunci sing dicolong asale saka panjaluk sing ditolak panyedhiya sadurunge model kasebut mlaku, sing nuduhake panyerang nyalin lalu lintas ing lawang ngarep panyedhiya tinimbang luwih jero ing tumpukan inferensi.

Ing rong pelanggaran liyane, sawetara panjaluk sing dicolong ditandhani minangka Zero Data Retention. "Gendera privasi ora mbantu nalika panyerang wis ana ing njero," tulis Moore. Pihak konco intrusions dites tombol umpan ing sawetara jam ing sawetara kasus, rifled liwat S3 buckets, Rahasia Managers lan toko parameter kanggo liyane Diverifikasi, nyoba kanggo ngaktifake host model ing AWS Bedrock, lan nambah pangguna IAM dhewe kanggo njaga akses. Kabeh dicritakake, kunci sing dicolong digunakake "puluhan ewu" kaping ing telpon API AWS. Rahasia sing dicolong saka loro panyedhiya sing disusupi digunakake bebarengan, meh langsung, saka server sing disewakake sing padha - bukti kuat yen siji mungsuh kompromi loro-lorone.

Reseller Sing Nyolong, lan Lab sing Scrapes

Ora saben leaker dadi peretas. Moore nyathet pengecer sing nggodha panjaluk kanthi rega murah, ngalih panyuwunan log lan mung ngenteni. Dheweke ngenali kanthi ngirim panjaluk sing padha menyang model sing padha liwat penjual sing beda-beda: nalika kredensial digunakake maneh saka siji penjual nanging ora liyane, pelakune wis jelas.

Kasus scraping sing paling jelas, Moore nulis, melu lab AI Cina sing sistem njupuk URL rahasia saka luwih saka setengah saka pituduh sing dikirim menyang model antarane Juli lan Oktober - kalebu kira-kira rong pertiga saka panjalukan kanthi tegas ditandhani "ora ana koleksi data" utawa Zero Data Retention. Pengikis biasane katon rong utawa telung dina sawise saben panjaluk. Ora mung kanggo pelanggan langsung: sawetara panyedhiya hosting AS adol maneh model lab, lan pituduh sing dikirim liwat perantara Amerika kasebut nyebabake scraper sing padha. Pelanggan sing milih panyedhiya AS khusus kanggo njaga data ing negara bagian, kanthi tembung liya, ora entuk apa sing dibayar. Kapisah, klien git ing awan sing beda-beda wiwit nyoba kloning repositori pribadi sing dirujuk ing pituduh - nanging mung kanggo pituduh sing nggunakake model lab kasebut.

OpenRouter Respond

Eksperimen kasebut kanthi cepet ngasilake akibat nyata. Ars Technica nglaporake ing nganyari manawa OpenRouter ngirim email marang pelanggan tanggal 21 November sing ngelingake manawa sawetara panjaluke bisa uga wis diwaca, kanthi nyebutake riset kasebut: pajanan potensial sing bakal dikirim menyang MiniMax, panyedhiya model berbasis China, langsung utawa liwat telung pengecer - AtlasCloud, Novita lan StreamLake. OpenRouter mbusak label "Retensi Data Zero" saka titik pungkasan model MiniMax.

Ing kiriman blog resmi tanggal 22 Nopember, OpenRouter ngonfirmasi yen wis mlebu telung panyedhiya, mbusak 125 titik pungkasan saka kelayakan ZDR, lan menehi kabar marang pangguna sing kena pengaruh manawa panyedhiya wis dikirim sacara umum. Perusahaan kasebut ujar manawa temuan kasebut "ora nuduhake pelanggaran utawa akses sing ora sah saka OpenRouter" dhewe, matur nuwun marang tim Dragos, lan ujar manawa panyedhiya pengin tetep ing platform kasebut "kudu ketemu" bar keamanan sing mundhak amarga OpenRouter nggabungake teknik tes sing padha.

Moore uga nemokake bocor long-buntut sing kesasar: siji panyedhiya hosting AS nyusup URL rahasia luwih saka rong sasi sawise telpon inferensi siji menyang titik pungkasan panelusuran, lan liyane mlayu scraper sing bali kanggo URL nandur dina sawise saben request, preduli saka router kang ngirim pituduh.

Apa sing Bisa Ditindakake Pangguna

Pertahanan paling efektif, ujare Moore, yaiku hosting model ing papan - pilihan sing larang sawetara organisasi bisa mbenerake. Langkah paling apik sabanjure yaiku tuku langsung saka panyedhiya tingkat pertama, kanthi "siji kontrak lan kabijakan privasi kanggo diwaca," lan ngindhari panyedhiya standar utawa kolam pengecer kanthi milih panyedhiya hulu dhewe. Malah banjur, dheweke ngelingake, ora ana jaminan data ora bakal bocor.

Eksperimen kasebut minangka dakwaan paling cetha babagan praktik privasi ing pasar inferensi sing berkembang kanthi cepet: rantai antarane aplikasi lan model saiki bisa nglibatake router, pengecer lan lapisan hosting ing pirang-pirang bawana, saben duwe kabijakan logging dhewe, lan label sing dimaksudake kanggo njamin pelanggan - kaya Zero Data Retention - bisa rusak utawa dicopot tanpa kabar. Kanggo industri sing njaluk perusahaan nempelake dokumen, kode lan kredensial menyang pituduh, pesen saka rong yuta kenari ora kepenak: nganti pipa ganti, nganggep saben hop bisa maca saben tembung.

Tetep Ahead saka AI

Keamanan lan privasi saiki dadi masalah utama kanggo sapa wae sing mbangun AI. Kanggo warta AI lan liputan independen babagan crita paling gedhe ing industri, bukak AI Buzz Wire.

Waca liyane AI warta →