L’intelligenza artificiale sta rendendo le truffe di spear phishing più efficaci e la maggior parte delle persone non riesce a distinguere tra un’esca scritta dall’intelligenza artificiale e una scritta dall’uomo. Questa è la scoperta principale di una nuova ricerca della Brigham Young University, pubblicata sul Journal of Cybersecurity and Privacy e messa in evidenza nella recente copertura di KSL.com e Phys.org.
"La nostra ricerca è solo l'ultima a dimostrare quanto sia sofisticato lo stato attuale dell'intelligenza artificiale", ha affermato Jerson Francia, un ricercatore di sicurezza informatica della BYU coinvolto nel lavoro, secondo il comunicato stampa della BYU.
Cosa hanno fatto i ricercatori
Lo studio, redatto da un team della BYU e disponibile come prestampa su arXiv, ha istituito un confronto controllato tra messaggi di testo di phishing personalizzati generati da GPT-4 e messaggi scritti da principianti umani - studenti che scrivono con limiti di tempo - per gli stessi 25 obiettivi.
Ciascun partecipante ha ricevuto una serie di 12 messaggi personalizzati realizzati appositamente per loro. Alcuni sono stati generati dall’intelligenza artificiale, altri scritti dall’uomo. I ricercatori hanno utilizzato un metodo chiamato TRAPD – Threshold Ranking Approach for Personalized Deception – in base al quale i partecipanti classificavano i messaggi, indicavano il punto in cui avrebbero voluto cliccare, spiegavano il loro ragionamento e giudicavano se ciascun messaggio era stato scritto da una persona o da GPT-4.
Il design è importante perché la maggior parte degli studi precedenti sul phishing misuravano i risultati in astratto. Questo ha misurato le risposte ai messaggi personalizzati per ogni singolo partecipante, che è esattamente il modo in cui funziona il vero spear phishing.
Più clic, nessun rilevamento migliore
I numeri del titolo: i messaggi generati da GPT-4 hanno suscitato l'intenzione di fare clic più spesso rispetto ai messaggi scritti dagli studenti - 28% contro 21% - anche se i ricercatori notano che la differenza comporta incertezza statistica date le dimensioni dello studio pilota.
Il risultato più inquietante è ciò che i partecipanti non potevano fare. Quando è stato chiesto se un messaggio fosse stato scritto da un essere umano o generato dall’intelligenza artificiale, i destinatari hanno identificato la fonte non più accuratamente del caso. In altre parole, la diffidenza extra che le persone credono di applicare al testo scritto a macchina non è apparsa nei risultati: i partecipanti allo studio stavano essenzialmente lanciando una moneta sulla paternità.
Lo studio ha anche scoperto che il contesto batte il contenuto: i messaggi incentrati su questioni legate al lavoro avevano molte più probabilità di innescare l’intenzione di fare clic rispetto ai messaggi legati agli hobby o ai social media. Per gli aggressori, questo è un moltiplicatore di forza, perché i dettagli sull’occupazione sono tra le informazioni personali più facili da trovare online.
Perché le esche legate al lavoro funzionano meglio
La scoperta sui messaggi legati al lavoro merita particolare attenzione da parte dei difensori. Lo spear phishing ha successo attraverso la personalizzazione: un messaggio che fa riferimento al tuo datore di lavoro, al tuo ruolo o ai tuoi progetti attuali sembra legittimo proprio perché è specifico.
I risultati della BYU suggeriscono che i modelli linguistici di grandi dimensioni comprimono drasticamente il flusso di lavoro di personalizzazione. Ciò che una volta richiedeva ore di ricerca manuale e un'attenta stesura da parte di un esperto ingegnere sociale può ora essere approssimato da semplici suggerimenti a un costo marginale vicino allo zero, scrivono i ricercatori. L’ostacolo alla conduzione di una campagna ampia e personalizzata non è più l’abilità. È l'accesso a un chatbot e a un elenco di obiettivi.
Cosa significa per i difensori
Le implicazioni pratiche fanno riflettere i team di sicurezza. La formazione sulla sensibilizzazione spesso insegna ai dipendenti a individuare frasi imbarazzanti, toni strani o linguaggio innaturale, il che indica tentativi di phishing storicamente esposti. Un rilevatore che si basa sull’individuazione della scrittura “robotica” è ora misurabilmente inaffidabile, dal momento che i destinatari di questo studio non sono riusciti a distinguere affatto i messaggi scritti dall’intelligenza artificiale da quelli scritti dagli esseri umani.
Il team della BYU inquadra i risultati come prova del fatto che la personalizzazione accessibile assistita dall’intelligenza artificiale può aumentare la portata pratica delle minacce di ingegneria sociale. Le difese che presuppongono che il phishing generico e a basso costo rimarrà la norma si basano sul presupposto che i dati non sono più supportati.
I ricercatori sottolineano anche i limiti dello studio. Si trattava di un progetto pilota che ha coinvolto 25 target utilizzando messaggi SMS, con autori studenti piuttosto che phisher professionisti: un confronto che, se non altro, sottovaluta il divario tra i risultati dell'intelligenza artificiale e la qualità media delle truffe nel mondo reale. Il team osserva che, sebbene i giudici umani non siano riusciti a distinguere le fonti, i due set di messaggi sono rimasti distinguibili dal punto di vista computazionale, lasciando spazio ad approcci di rilevamento automatizzato.
Per le organizzazioni, il risultato è procedurale piuttosto che tecnico: verificare le richieste attraverso canali separati, trattare l’urgenza e l’inquadramento relativo al lavoro come segnali di rischio indipendentemente da quanto lucido si legga il messaggio e presupporre che ben scritto non significhi più scritto da esseri umani.
Stai al passo con l'intelligenza artificiale
Tracking how AI is reshaping security and society? Read more AI news on AI Buzz Wire — independent AI coverage, every day.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
