Penyelidik keselamatan di Wiz telah mendokumentasikan kes luar biasa kecerdasan buatan yang mewujudkan kerentanan yang kemudiannya ditemui dan dieksploitasi oleh sistem AI lain: pembetulan GitHub Copilot automatik memperkenalkan kecacatan suntikan skrip yang serius ke dalam repositori sumber terbuka Snowflake, dan Agen Merah Wiz yang berautonomi menemui pepijat, mempersenjatainya, dan menarik semua kod dalaman yang rosak dalam tempoh beberapa hari.

Penemuan itu, yang diterbitkan pada hari Isnin di blog Wiz Research, dengan cepat mencapai muka depan Berita Hacker, di mana pembangun membahaskan maksudnya untuk amalan yang semakin meningkat untuk membiarkan pembantu pengekodan AI melakukan perubahan terus ke repositori pengeluaran. Episod itu dibaca sebagai pukulan amaran untuk tergesa-gesa industri ke arah kod yang dikarang AI. Untuk lebih banyak cerita tentang alat membentuk semula pembangunan perisian, ikuti [liputan berita AI] kami(https://aibuzzwire.news).

Cara Autofix AI Mencipta Kerentanan

Menurut Wiz, masalah itu bermula pada 18 Jun 2026, apabila permintaan tarik dalam repositori `snowflake-connector-net` awam mengemas kini aliran kerja Tindakan GitHub yang dipanggil `jira_issue.yml`. Komit itu, yang dikarang bersama oleh ciri Autofix GitHub Copilot, menggantikan corak pengekodan selamat — corak yang melepasi tajuk isu yang tidak dipercayai melalui pembolehubah persekitaran dan membina muatan JSON dengan `jq` — dengan interpolasi templat langsung input dikawal pengguna ke dalam skrip shell.

Aliran kerja berjalan apabila mana-mana pengguna GitHub membuka isu pada repositori. Oleh kerana tajuk isu telah diinterpolasi terus ke dalam blok `run:`, petikan tunggal dalam tajuk yang dibuat sudah cukup untuk keluar daripada arahan shell dan melaksanakan kod arbitrari pada pelari Tindakan GitHub.

Semakan bersyarat dalam aliran kerja yang kelihatan seperti pintu keselamatan ternyata tidak berkesan: pada peristiwa isu, konteks `github.event.pull_request` sentiasa batal, jadi syarat dinilai kepada benar untuk setiap pengguna. Dalam amalan, sesiapa sahaja di GitHub boleh mencetuskan aliran kerja.

Wiz berkata corak selamat yang dialih keluar oleh pembantu AI telah dilaksanakan dengan sengaja untuk mencegah kelas suntikan cangkerang ini — konteks sejarah yang tidak diketahui oleh pembantu automatik.

Ejen Merah Menemuinya — dan Enggan Gagal

Apa yang menjadikan kes itu luar biasa ialah bagaimana kecacatan itu ditemui. Ejen Merah Wiz, ejen keselamatan serangan autonomi, sedang mengimbas organisasi GitHub Snowflake dengan keupayaan analisis CI/CD apabila ia menandakan aliran kerja sebagai terdedah kepada suntikan skrip.

Apabila ejen cuba mengeksploitasi kecacatan itu, muatan pertamanya — yang menggunakan aksara ulasan untuk memotong arahan shell — gagal dengan ralat sintaks bash. Daripada berhenti, penyelidik menulis, Ejen Merah secara autonomi menganalisis ralat, melaraskan muatannya untuk menutup sintaks shell dengan betul, dan berjaya mengekstrak kelayakan Jira ke pelayan panggilan balik luar jalur. Panggilan balik tiba daripada pelari GitHub Actions, membawa bukti kelayakan dalam bentuk berkod base64.

Token yang dieksfiltrasi adalah milik akaun dengan akses baca merentas projek kejuruteraan Snowflake, pematuhan keselamatan dan penjejakan hadiah pepijat di Jira.

Lima Hari Dari Suntikan ke Tampalan

Garis masa pendedahan yang diterbitkan oleh Wiz bergerak pantas:

  • 18 Jun 2026 — corak terdedah diperkenalkan oleh komit yang dikarang bersama oleh Copilot Autofix
  • 23 Jun 2026 — Wiz mengenal pasti, mengeksploitasi dan melaporkan kecacatan kepada Snowflake melalui HackerOne
  • 23 Jun 2026 — Kepingan salji menampal aliran kerja pada hari yang sama, memulihkan corak pembolehubah `env:` dan `jq` yang selamat
  • 24 Jun 2026 — token Jira yang terdedah dibatalkan dan diputar
  • 25 Julai 2026 — pendedahan awam yang diselaraskan

Snowflake memberitahu Wiz bahawa siasatannya tidak menemui bukti akses tanpa kebenaran. "Pendedahan itu diterima pada 23 Jun 2026, dan ia segera disiasat dan dipulihkan, dan siasatan kami tidak menemui bukti akses tanpa kebenaran," kata syarikat itu dalam satu kenyataan, sambil menambah bahawa ia bekerjasama dengan Wiz untuk berkongsi pembelajaran dengan industri yang lebih luas.

Pelajaran Lebih Besar: Kod AI Memerlukan Pemeriksaan Gred Manusia

Wiz menarik tiga takeaways daripada kejadian itu, dan ia melangkaui Snowflake.

Pertama, permintaan tarik yang dijana AI mesti menjalani analisis statik dan semakan keselamatan yang sama seperti kod manusia. Pembantu pengekodan meramalkan kod daripada corak kebarangkalian, yang bermaksud mereka boleh memperkenalkan semula secara senyap semula binaan yang tidak digunakan atau tidak selamat yang telah dihapuskan oleh repositori.

Kedua, tetingkap penemuan runtuh. Kerentanan itu disiarkan selama lima hari sahaja sebelum ejen automatik menemui dan mengesahkannya — kadar yang mengandaikan penyerang mengimbas menggunakan alat yang serupa boleh bergerak secepat. Kitaran tampalan pantas dan bukti kelayakan jangka pendek menjadi keperluan asas.

Ketiga, organisasi memerlukan pagar yang menghalang pembantu AI daripada menggantikan penghurai data berstruktur dengan interpolasi rentetan langsung — tepatnya regresi yang berlaku di sini.

Insiden itu berlaku pada saat introspeksi industri yang lebih luas tentang kod yang dijana AI. Rentetan kajian terkini dan kes dunia sebenar telah menunjukkan bahawa alat pengekodan AI dengan yakin boleh memperkenalkan pepijat, lubang keselamatan dan sakit kepala penyelenggaraan di samping peningkatan produktiviti mereka. Apa yang menjadikan kes Snowflake tersendiri ialah gelung tertutup: AI yang menyebabkan masalah dan AI yang menangkapnya kedua-duanya bertindak secara autonomi, dengan manusia menyemak kesannya.

Untuk pasukan keselamatan, mesej daripada Wiz adalah tumpul. Persoalannya bukan lagi sama ada kod bertulis AI akan mengandungi kelemahan — ia adalah sama ada saluran pengesanan anda, manusia atau automatik, boleh menemuinya lebih cepat daripada ejen orang lain.

Kekal Mendahului Keluk AI

Alat pengekodan AI dan ejen autonomi mengubah keselamatan perisian dalam masa nyata. Tandai halaman AI Buzz Wire untuk pelaporan harian tentang industri AI.

Baca lebih banyak berita AI →