Peneliti keamanan ing Wiz wis nyathet kasus intelijen buatan sing ora biasa sing nggawe kerentanan banget sing ditemokake lan dimanfaatake dening sistem AI liyane: perbaikan GitHub Copilot otomatis ngenalake cacat injeksi skrip sing serius menyang repositori sumber terbuka Snowflake, lan Agen Merah otonom Wiz nemokake bug kasebut, nggunakke senjata kasebut, lan narik kabeh kredensial internal saka sistem Snowflake.

Temuan kasebut, diterbitake Senin ing blog Wiz Research, kanthi cepet tekan kaca ngarep Hacker News, ing ngendi para pangembang mbahas apa tegese praktik sing terus berkembang supaya asisten coding AI nindakake owah-owahan langsung menyang repositori produksi. Episode kasebut diwaca minangka tembakan peringatan kanggo industri cepet-cepet menyang kode sing ditulis AI. Kanggo crita liyane babagan alat sing nggawe maneh pangembangan piranti lunak, tututi liputan warta AI.

Kepiye Autofix AI Nggawe Kerentanan

Miturut Wiz, masalah kasebut diwiwiti tanggal 18 Juni 2026, nalika panjaluk tarik ing repositori `snowflake-connector-net` umum nganyari alur kerja Tindakan GitHub sing diarani `jira_issue.yml`. Komitmen kasebut, sing ditulis bareng karo fitur Autofix GitHub Copilot, ngganti pola pengkodean sing aman - sing ngliwati judhul masalah sing ora dipercaya liwat variabel lingkungan lan mbangun muatan JSON kanthi `jq` - kanthi interpolasi template langsung saka input sing dikontrol pangguna menyang skrip cangkang.

Alur kerja mlaku nalika pangguna GitHub mbukak masalah ing repositori. Amarga judhul masalah diinterpolasi langsung menyang blok `run:`, kutipan siji ing judhul sing digawe cukup kanggo metu saka perintah cangkang lan nglakokake kode sewenang-wenang ing pelari Tindakan GitHub.

Priksa kondisional ing alur kerja sing katon minangka gerbang keamanan ora efektif: ing acara masalah, konteks `github.event.pull_request` tansah null, saengga kondisi kasebut dievaluasi bener kanggo saben pangguna. Ing laku, sapa wae ing GitHub bisa micu alur kerja.

Wiz ujar manawa pola aman sing dicopot asisten AI wis sengaja ditindakake kanggo nyegah injeksi cangkang kelas iki - konteks sejarah sing ora bisa dingerteni asisten otomatis.

Agen Abang Nemokake - lan Ora Gagal

Sing nggumunake kasus kasebut yaiku kepiye cacat kasebut ditemokake. Wiz's Red Agent, agen keamanan nyerang otonom, mindhai organisasi GitHub Snowflake kanthi kemampuan analisis CI / CD nalika menehi tandha alur kerja minangka rentan kanggo injeksi skrip.

Nalika agen nyoba ngeksploitasi cacat kasebut, muatan pertama - sing nggunakake karakter komentar kanggo ngethok perintah cangkang - gagal kanthi kesalahan sintaksis bash. Tinimbang mandheg, peneliti nulis, Agen Abang kanthi otonom nganalisa kesalahan kasebut, nyetel muatan kanggo nutup sintaks cangkang kanthi bener, lan kasil ngilangi kredensial Jira menyang server callback sing ora ana band. Callback teka saka pelari GitHub Actions, nggawa kredensial ing wangun sing dikodekan base64.

Token sing dieksfiltrasi kalebu akun kanthi akses diwaca ing proyek rekayasa Snowflake, kepatuhan keamanan, lan pelacakan bug bounty ing Jira.

Lima Dina Saka Injeksi menyang Patch

Garis wektu pambocoran sing diterbitake dening Wiz cepet banget:

  • 18 Juni 2026 - pola sing rawan ditepungake dening komit sing ditulis bareng karo Copilot Autofix
  • 23 Juni 2026 - Wiz ngenali, ngeksploitasi, lan nglaporake cacat menyang Snowflake liwat HackerOne
  • 23 Juni 2026 — Snowflake nambal alur kerja ing dina sing padha, mulihake pola parsing `env:` lan `jq` sing aman
  • 24 Juni 2026 — token Jira sing kapapar dibatalake lan diputer
  • 25 Juli 2026 - pambocoran umum sing dikoordinasi

Snowflake marang Wiz sing diselidiki ora ketemu bukti akses ora sah. "Pambocoran kasebut ditampa tanggal 23 Juni 2026, lan langsung diselidiki lan didandani, lan penyelidikan kita ora nemokake bukti akses sing ora sah," ujare perusahaan kasebut ing pratelan, lan nambahake manawa kerja sama karo Wiz kanggo nuduhake sinau karo industri sing luwih jembar.

Pawulangan sing luwih gedhe: Kode AI Mbutuhake Nliti Manungsa

Wiz nggambar telung takeaways saka kedadeyan kasebut, lan ngluwihi Snowflake.

Kaping pisanan, panjaluk tarik sing digawe AI kudu ngalami analisis statis lan tinjauan keamanan sing padha karo kode manungsa. Asisten coding prédhiksi kode saka pola probabilistik, sing tegese bisa kanthi meneng ngenalake konstruksi sing ora digunakake utawa ora aman sing wis diilangi dening gudang.

Kapindho, jendhela panemuan ambruk. Kerentanan kasebut urip mung limang dina sadurunge agen otomatis nemokake lan divalidasi - langkah sing nganggep panyerang mindhai nganggo alat sing padha bisa pindhah kanthi cepet. Siklus tembelan sing cepet lan kredensial sing ora suwe dadi syarat dhasar.

Katelu, organisasi butuh pager sing nyegah asisten AI kanggo ngganti parser data terstruktur kanthi interpolasi string langsung - persis regresi sing kedadeyan ing kene.

Kedadeyan kasebut tiba ing wayahe introspeksi industri sing luwih akeh babagan kode sing digawe AI. Serangkaian panaliten anyar lan kasus ing donya nyata nuduhake manawa alat coding AI kanthi yakin bisa ngenalake bug, bolongan keamanan, lan ngelu pangopènan bebarengan karo produktivitas. Sing ndadekake kasus Snowflake khusu yaiku loop tertutup: AI sing nyebabake masalah kasebut lan AI sing nyekel dheweke tumindak kanthi mandiri, kanthi manungsa mriksa akibate.

Kanggo tim keamanan, pesen saka Wiz ora jelas. Pitakonan ora ana maneh apa kode sing ditulis AI bakal ngemot kerentanan - apa saluran deteksi sampeyan, manungsa utawa otomatis, bisa nemokake luwih cepet tinimbang agen wong liya.

Tetep Ahead saka Kurva AI

Alat coding AI lan agen otonom ngganti keamanan piranti lunak kanthi nyata. Tetenger AI Buzz Wire kanggo laporan saben dina babagan industri AI.

Waca liyane warta AI →