Peneliti keamanan di Wiz telah mendokumentasikan kasus kecerdasan buatan yang tidak biasa yang menciptakan kerentanan yang kemudian ditemukan dan dieksploitasi oleh sistem AI lain: perbaikan GitHub Copilot otomatis menimbulkan kelemahan injeksi skrip yang serius ke dalam repositori sumber terbuka Snowflake, dan Agen Merah otonom Wiz menemukan bug tersebut, menjadikannya senjata, dan menarik kredensial dari sistem internal Snowflake — semuanya dalam beberapa hari setelah kode yang cacat tersebut mendarat.

Temuan tersebut, yang diterbitkan pada hari Senin di blog Wiz Research, dengan cepat mencapai halaman depan Hacker News, di mana para pengembang memperdebatkan apa artinya bagi praktik yang berkembang yang membiarkan asisten pengkodean AI melakukan perubahan langsung ke repositori produksi. Episode ini dibaca sebagai peringatan atas ketergesaan industri menuju kode yang dibuat oleh AI. Untuk cerita lebih lanjut tentang alat yang membentuk kembali pengembangan perangkat lunak, ikuti liputan berita AI.

Bagaimana Perbaikan Otomatis AI Menciptakan Kerentanan

Menurut Wiz, masalahnya dimulai pada 18 Juni 2026, ketika permintaan penarikan di repositori `snowflake-connector-net` publik memperbarui alur kerja GitHub Actions yang disebut `jira_issue.yml`. Komit tersebut, yang ditulis bersama oleh fitur Perbaikan Otomatis GitHub Copilot, menggantikan pola pengkodean yang aman — pola yang meneruskan judul masalah yang tidak tepercaya melalui variabel lingkungan dan membuat muatan JSON dengan `jq` — dengan interpolasi templat langsung dari masukan yang dikontrol pengguna ke dalam skrip shell.

Alur kerja berjalan setiap kali pengguna GitHub membuka masalah pada repositori. Karena judul terbitan diinterpolasi langsung ke dalam blok `run:`, satu kutipan dalam judul yang dibuat sudah cukup untuk keluar dari perintah shell dan mengeksekusi kode arbitrer pada runner Actions GitHub.

Pemeriksaan bersyarat dalam alur kerja yang tampaknya merupakan gerbang keamanan ternyata tidak efektif: pada peristiwa yang diterbitkan, konteks `github.event.pull_request` selalu nol, sehingga kondisi dievaluasi menjadi benar untuk setiap pengguna. Dalam praktiknya, siapa pun di GitHub dapat memicu alur kerja tersebut.

Wiz mengatakan pola aman yang dihapus oleh asisten AI sengaja diterapkan untuk mencegah kelas injeksi shell ini – sebuah konteks historis yang tidak diketahui oleh asisten otomatis.

Agen Merah Menemukannya — dan Menolak Gagal

Apa yang membuat kasus ini luar biasa adalah bagaimana kelemahannya ditemukan. Agen Merah Wiz, agen keamanan ofensif otonom, sedang memindai organisasi GitHub Snowflake dengan kemampuan analisis CI/CD ketika organisasi tersebut menandai alur kerja sebagai rentan terhadap injeksi skrip.

Ketika agen mencoba mengeksploitasi kelemahan tersebut, payload pertamanya — yang menggunakan karakter komentar untuk memotong perintah shell — gagal dengan kesalahan sintaksis bash. Daripada berhenti, tulis para peneliti, Red Agent secara mandiri menganalisis kesalahan tersebut, menyesuaikan muatannya untuk menutup sintaks shell dengan benar, dan berhasil mengekstrak kredensial Jira ke server panggilan balik out-of-band. Panggilan balik datang dari pelari GitHub Actions, membawa kredensial dalam bentuk yang dikodekan base64.

Token yang dieksfiltrasi adalah milik akun dengan akses baca di seluruh proyek teknik Snowflake, kepatuhan keamanan, dan pelacakan bug bounty di Jira.

Lima Hari Dari Injeksi hingga Tambalan

Garis waktu pengungkapan yang diterbitkan oleh Wiz bergerak cepat:

  • 18 Juni 2026 — pola rentan diperkenalkan oleh penerapan yang ditulis bersama oleh Copilot Autofix
  • 23 Juni 2026 — Wiz mengidentifikasi, mengeksploitasi, dan melaporkan kelemahan tersebut ke Snowflake melalui HackerOne
  • 23 Juni 2026 — Snowflake menambal alur kerja pada hari yang sama, memulihkan variabel `env:` yang aman dan pola penguraian `jq`
  • 24 Juni 2026 — Token Jira yang terekspos akan dicabut dan dirotasi
  • 25 Juli 2026 — keterbukaan publik yang terkoordinasi

Snowflake memberi tahu Wiz bahwa penyelidikannya tidak menemukan bukti adanya akses tidak sah. “Pengungkapan diterima pada 23 Juni 2026, dan segera diselidiki dan diperbaiki, dan penyelidikan kami tidak menemukan bukti akses tidak sah,” kata perusahaan itu dalam sebuah pernyataan, seraya menambahkan bahwa pihaknya bekerja sama dengan Wiz untuk berbagi pembelajaran dengan industri yang lebih luas.

Pelajaran yang Lebih Besar: Kode AI Membutuhkan Pengawasan Tingkat Manusia

Wiz menarik tiga kesimpulan dari insiden tersebut, dan itu jauh melampaui Snowflake.

Pertama, permintaan penarikan yang dihasilkan AI harus menjalani analisis statis dan tinjauan keamanan yang sama seperti kode manusia. Asisten pengkodean memprediksi kode dari pola probabilistik, yang berarti mereka dapat secara diam-diam memperkenalkan kembali konstruksi yang tidak digunakan lagi atau tidak aman yang telah dihilangkan oleh repositori.

Kedua, jendela penemuan runtuh. Kerentanan ini hanya muncul selama lima hari sebelum agen otomatis menemukan dan memvalidasinya – sebuah langkah yang mengasumsikan bahwa penyerang yang melakukan pemindaian dengan alat serupa dapat bergerak dengan cepat. Siklus patch yang cepat dan kredensial yang berumur pendek menjadi persyaratan dasar.

Ketiga, organisasi memerlukan pagar pembatas yang menghentikan asisten AI mengganti pengurai data terstruktur dengan interpolasi string langsung — tepatnya regresi yang terjadi di sini.

Insiden ini terjadi pada saat industri melakukan introspeksi yang lebih luas terhadap kode yang dihasilkan AI. Serangkaian penelitian terbaru dan kasus-kasus nyata menunjukkan bahwa alat pengkodean AI dapat menimbulkan bug, lubang keamanan, dan masalah pemeliharaan seiring dengan peningkatan produktivitasnya. Apa yang membuat kasus Snowflake berbeda adalah loop tertutupnya: AI yang menyebabkan masalah dan AI yang menangkapnya, keduanya bertindak secara mandiri, dan manusia meninjau dampaknya.

Bagi tim keamanan, pesan dari Wiz sangat blak-blakan. Pertanyaannya bukan lagi apakah kode yang ditulis AI akan mengandung kerentanan — melainkan apakah pipeline deteksi Anda, baik yang dilakukan manusia atau otomatis, dapat menemukannya lebih cepat dibandingkan agen orang lain.

Tetap Terdepan dalam Kurva AI

Alat pengkodean AI dan agen otonom mengubah keamanan perangkat lunak secara real-time. Tandai AI Buzz Wire untuk pelaporan harian tentang industri AI.

Baca berita AI selengkapnya →