Kecerdasan buatan nggawe penipuan phishing tombak luwih efektif, lan umume wong ora bisa mbedakake antarane nggodho sing ditulis AI lan sing ditulis manungsa. Iki minangka temuan inti riset anyar saka Universitas Brigham Young, diterbitake ing Jurnal Cybersecurity lan Privasi sing ditinjau peer lan disorot ing jangkoan anyar dening KSL.com lan Phys.org.
"Panaliten kita mung paling anyar kanggo nuduhake kecanggihan kahanan AI saiki," ujare Jerson Francia, peneliti cybersecurity BYU sing melu karya kasebut, miturut siaran berita BYU.
Apa sing Ditindakake Para Peneliti
Panaliten kasebut, digawe dening tim BYU lan kasedhiya minangka preprint ing arXiv, nyetel perbandingan sing dikontrol antarane pesen teks phishing pribadi sing digawe dening GPT-4 lan pesen sing ditulis dening wong anyar manungsa - siswa nulis ing watesan wektu - kanggo 25 target sing padha.
Saben peserta nampa 12 pesen khusus sing digawe khusus kanggo dheweke. Sawetara digawe AI, sawetara ditulis manungsa. Para panaliti nggunakake cara sing diarani TRAPD - Pendekatan Peringkat Ambang kanggo Penipuan Pribadi - ing ngendi para peserta menehi peringkat pesen, nuduhake titik sing arep diklik, nerangake alasane, lan ngadili manawa saben pesen wis ditulis dening wong utawa dening GPT-4.
Desain kasebut penting amarga umume studi phishing sadurunge ngukur asil ing abstrak. Iki ngukur tanggapan kanggo pesen sing dipersonalisasi kanggo saben peserta individu, yaiku cara kerja phishing tumbak sing nyata.
Klik Liyane, Ora Deteksi Luwih
Nomer judhul: Pesen sing digawe GPT-4 nyebabake niat ngeklik luwih kerep tinimbang pesen sing ditulis siswa - 28% versus 21% - sanajan peneliti nyathet yen prabédan kasebut nyebabake ketidakpastian statistik amarga ukuran studi pilot.
Asil sing luwih ora nyenengake yaiku apa sing ora bisa ditindakake para peserta. Nalika ditakoni apa pesen ditulis dening manungsa utawa digawe dening AI, panampa nemtokake sumber ora luwih akurat tinimbang kasempatan. Ing tembung liyane, wong sing luwih waspada percaya yen ditrapake kanggo teks sing ditulis mesin ora katon ing asil - peserta sinau ing dasare koin-flipping ing penulis.
Panaliten kasebut uga nemokake manawa konteks ngalahake konten: pesen sing dibingkai babagan masalah sing ana gandhengane karo proyek luwih cenderung nyebabake niat klik tinimbang pesen sing ana gandhengane karo hobi utawa media sosial. Kanggo panyerang, iku multiplier pasukan, amarga rincian lapangan kerja minangka salah sawijining informasi pribadhi sing paling gampang ditemokake online.
Napa Lures sing Gegandhengan Proyek Bisa Paling Apik
Panemuan babagan pesen-pesen sing gegandhengan karo karya kudu diwenehi perhatian khusus saka para pembela. Spear phishing sukses liwat personalisasi - pesen sing ngrujuk marang majikan, peran sampeyan, utawa proyek sampeyan saiki pancen sah amarga spesifik.
Asil BYU nuduhake manawa model basa gedhe ngompres alur kerja personalisasi kasebut kanthi dramatis. Apa sing sepisan mbutuhake riset manual lan panyusunan kanthi ati-ati dening insinyur sosial sing trampil saiki bisa dikira-kira saka pituduh sing prasaja kanthi biaya marginal sing meh nol, para peneliti nulis. Rintangan kanggo nglakokake kampanye gedhe lan pribadi ora duwe katrampilan maneh. Iku akses menyang chatbot lan dhaptar target.
Apa Tegese kanggo Pembela
Implikasi praktis sing sobering kanggo tim keamanan. Pelatihan kesadaran asring ngajari karyawan supaya bisa nemokake frasa sing kikuk, nada aneh, utawa basa sing ora wajar - ngandhani yen nyoba phishing sing wis ana ing sejarah. Detektor sing ngandelake tulisan "robotik" saiki ora bisa dipercaya, amarga panampa ing panliten iki ora bisa mbedakake sing ditulis AI saka pesen sing ditulis manungsa.
Tim BYU nggawe temuan kasebut minangka bukti manawa personalisasi sing dibantu AI sing bisa diakses bisa nambah skala praktis ancaman rekayasa sosial. Pertahanan sing nganggep murah, phishing umum bakal tetep dadi norma dibangun kanthi asumsi data ora ndhukung maneh.
Peneliti uga nandheske watesan sinau. Iku pilot 25-target nggunakake pesen SMS, karo penulis mahasiswa tinimbang phisher profesional - perbandingan sing, yen ana, understates longkangan antarane output AI lan rata-rata kualitas scam donya nyata. Tim kasebut nyathet manawa hakim manungsa ora bisa mbedakake sumber kasebut, rong set pesen kasebut tetep bisa dibedakake kanthi komputasi, ninggalake ruangan kanggo pendekatan deteksi otomatis.
Kanggo organisasi, takeaway kasebut minangka prosedural tinimbang teknis: verifikasi panjalukan liwat saluran sing kapisah, nambani urgensi lan framing sing gegandhengan karo proyek minangka sinyal risiko, ora preduli carane polesan pesen kasebut, lan nganggep manawa ditulis kanthi apik ora ateges ditulis manungsa.
Tetep Ahead saka AI
Nelusuri kepiye AI nggawe maneh keamanan lan masyarakat? Waca warta AI liyane ing AI Buzz Wire — jangkoan AI independen, saben dina.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
