Operasi sengatan berskala besar terhadap paip industri AI telah mendokumentasikan apa yang berlaku kepada gesaan yang dihantar pengguna setiap hari — dan jawapannya ialah: ia bocor. Penyelidik keselamatan HD Moore, ketua pegawai penyelidik firma keselamatan industri Dragos, menghantar hampir dua juta gesaan AI yang mengandungi rahsia unik yang boleh dijejaki kepada pembekal AI dan kemudian melihat di mana rahsia itu muncul. "Apa yang kami temui mendedahkan pelanggaran keselamatan, kecurian segera, dan kegagalan meluas untuk melindungi data pelanggan," tulis Moore dalam laporan yang diterbitkan Khamis.
Penemuan, yang dilaporkan secara terperinci oleh Ars Technica, tiba sebagai penghala AI — perkhidmatan broker seperti OpenRouter dan Vercel yang menerima gesaan daripada pengguna akhir dan menghalakannya ke mana-mana penyedia inferens yang paling murah atau paling sesuai — telah menjadi infrastruktur teras untuk beribu-ribu aplikasi. Mereka juga mencetuskan tindak balas industri yang pantas: OpenRouter menerbitkan pengumuman insidennya sendiri pada 22 November, mengatakan ia telah meninggalkan tiga pembekal, mengalih keluar 125 titik akhir daripada kelayakan Pengekalan Data Sifar dan memaklumkan pelanggan yang berpotensi terjejas.
Bagaimana Perangkap Canary Berfungsi
Moore mengumpulkan koleksi kunci akses AWS yang berfungsi yang terikat pada akaun kosong, kata laluan SSH yang berfungsi dan URL unik, nama DNS dan rujukan repositori git peribadi. Tiada rahsia yang pernah digunakan sebelum ini, dan Moore mengawal infrastruktur di bahagian penerima. Setiap rahsia telah disemai ke dalam satu gesaan yang dihantar kepada satu pembekal — jadi jika rahsia itu kemudiannya muncul di mana-mana, perjalanannya boleh dikesan kembali ke pautan yang tepat dalam rantaian yang bertanggungjawab.
Reka bentuk penting kerana bagaimana ekosistem AI sebenarnya menggerakkan data. Gesaan disulitkan dalam transit, tetapi ia dinyahsulit pada setiap lompatan. Penghala AI membaca teks biasa untuk memilih penyedia inferens yang sesuai; gesaan itu kemudiannya sering dimajukan kepada kumpulan model, kadangkala dijalankan di dalam syarikat pengehosan yang berbeza. Gesaan juga boleh dihantar dari satu penghala ke penghala yang lain — Vercel ke OpenRouter, misalnya — dengan setiap perantara bebas untuk log dan menyimpan kandungan di bawah dasarnya sendiri.
Tiga Pembekal Dilanggar, Kunci Digunakan Dalam Masa Beberapa Jam
Penemuan paling membimbangkan melibatkan tiga penyedia pengehosan berasingan yang telah terjejas semasa percubaan. Menurut Moore, penyerang yang melanggar satu pembekal menggunakan semula "beberapa ratus" kunci AWS yang ditanam. Setiap kunci telah dihantar dengan tepat satu permintaan kepada satu pembekal, dalam beberapa tetingkap pendek pada akhir Oktober — dan "setiap permintaan yang kami hantar semasa tetingkap tersebut telah dicuri." Yang penting, beberapa kunci yang dicuri datang daripada permintaan yang telah ditolak oleh pembekal sebelum model dijalankan, menunjukkan penyerang menyalin trafik di pintu hadapan penyedia dan bukannya lebih dalam dalam timbunan inferens.
Dalam dua lagi pelanggaran, beberapa permintaan yang dicuri telah dibenderakan sebagai Pengekalan Data Sifar. "Bendera privasi tidak membantu apabila penyerang sudah berada di dalam, " tulis Moore. Pihak di sebalik pencerobohan menguji kekunci umpan dalam beberapa jam dalam beberapa kes, menyelongkar baldi S3, pengurus rahsia dan stor parameter untuk mendapatkan lebih banyak bukti kelayakan, cuba mendayakan model yang dihoskan dalam AWS Bedrock dan menambah pengguna IAM mereka sendiri untuk mengekalkan akses. Semua diberitahu, kunci yang dicuri telah digunakan "berpuluh-puluh ribu" kali dalam panggilan API AWS. Rahsia yang dicuri daripada dua pembekal yang digodam telah digunakan bersama-sama, hampir serta-merta, daripada pelayan yang disewa yang sama — bukti kukuh bahawa satu musuh menjejaskan kedua-duanya.
Penjual Semula Yang Mencuri, dan Makmal Yang Mengikis
Tidak setiap pembocor adalah penggodam. Moore mendokumenkan penjual semula yang memikat gesaan dengan harga yang rendah, menghidupkan pengelogan permintaan dan hanya menunggu. Dia mengenal pasti mereka dengan menghantar permintaan yang sama kepada model yang sama melalui penjual yang berbeza: apabila bukti kelayakan digunakan semula daripada seorang penjual tetapi bukan penjual lain, puncanya adalah jelas.
Kes mengikis paling jelas, tulis Moore, melibatkan makmal AI China yang sistemnya mengambil URL rahsia daripada lebih separuh daripada gesaan yang dihantar kepada modelnya antara Julai dan Oktober — termasuk kira-kira dua pertiga daripada permintaan yang secara jelas menandakan "tiada pengumpulan data" atau Pengekalan Data Sifar. Pengikis biasanya muncul dua atau tiga hari selepas setiap permintaan. Ia tidak terhad kepada pelanggan langsung: beberapa penyedia pengehosan AS menjual semula model makmal, dan gesaan yang dihantar melalui pengantara Amerika tersebut mencetuskan pengikis yang sama. Pelanggan yang memilih pembekal AS secara khusus untuk menyimpan data di sebelah negeri, dengan kata lain, tidak mendapat apa yang mereka bayar. Secara berasingan, pelanggan git pada awan yang berbeza mula cuba mengklon repositori peribadi yang dirujuk dalam gesaan - tetapi hanya untuk gesaan yang menggunakan model makmal tersebut.
OpenRouter Membalas
Percubaan dengan cepat menghasilkan akibat dunia nyata. Ars Technica melaporkan dalam kemas kini bahawa OpenRouter menghantar e-mel kepada pelanggan pada 21 November memberi amaran bahawa beberapa gesaan mereka mungkin telah dibaca, memetik penyelidikan: potensi pendedahan melibatkan gesaan yang dihantar kepada MiniMax, pembekal model yang berpangkalan di China, sama ada secara langsung atau melalui tiga penjual semula — AtlasCloud, Novita dan StreamLake. OpenRouter mengalih keluar label "Pengekalan Data Sifar" daripada titik akhir model MiniMax.
Dalam catatan blog rasminya pada 22 November, OpenRouter mengesahkan ia telah meninggalkan tiga penyedia, mengalih keluar 125 titik akhir daripada kelayakan ZDR dan memberitahu pengguna yang terjejas sama ada penyedia telah menyiarkan secara terbuka atau tidak. Syarikat itu berkata penemuan itu "tidak menunjukkan sebarang pelanggaran atau akses tanpa kebenaran OpenRouter" itu sendiri, mengucapkan terima kasih kepada pasukan Dragos, dan berkata penyedia yang ingin kekal di platform "perlu memenuhi" bar keselamatan yang semakin meningkat kerana OpenRouter menyepadukan teknik ujian yang serupa.
Moore juga menemui kebocoran ekor panjang yang sesat: seorang penyedia pengehosan AS merangkak URL rahsia lebih daripada dua bulan selepas satu panggilan inferens ke titik akhir cariannya dan satu lagi menjalankan pengikis yang kembali untuk URL yang ditanam beberapa hari selepas setiap permintaan, tanpa mengira penghala yang menghantar gesaan.
Perkara yang Pengguna Boleh Lakukan
Pertahanan yang paling berkesan, kata Moore, adalah menganjurkan model di premis - pilihan mahal yang boleh dibenarkan oleh beberapa organisasi. Langkah terbaik seterusnya ialah membeli terus daripada penyedia peringkat pertama, dengan "satu kontrak dan dasar privasi untuk dibaca," dan mengelakkan kumpulan pembekal lalai atau penjual semula dengan memilih sendiri penyedia huluan. Walaupun begitu, beliau mengingatkan, tiada jaminan data tidak akan bocor.
Percubaan ini merupakan dakwaan paling tajam terhadap amalan privasi merentas pasaran inferens yang berkembang pesat: rantaian antara aplikasi dan model kini boleh melibatkan penghala, penjual semula dan lapisan pengehosan di berbilang benua, masing-masing dengan dasar pengelogannya sendiri dan label yang bertujuan untuk meyakinkan pelanggan — seperti Pengekalan Data Sifar — boleh dipecahkan atau dilucutkan tanpa notis. Bagi industri yang meminta perusahaan menampal dokumen, kod dan bukti kelayakan mereka ke dalam gesaan, mesej dua juta burung kenari tidak selesa: sehingga paip berubah, anggap setiap lompat boleh membaca setiap perkataan.
Kekal Mendahului AI
Keselamatan dan privasi kini menjadi kebimbangan utama bagi sesiapa yang membina AI. Untuk berita terkini AI dan liputan bebas mengenai cerita terbesar industri, lawati AI Buzz Wire.
Baca lebih banyak berita AI →