A inteligência artificial está tornando os golpes de spear phishing mais eficazes, e a maioria das pessoas não consegue distinguir entre uma isca escrita por IA e outra escrita por humanos. Esta é a principal conclusão de uma nova investigação da Universidade Brigham Young, publicada no Journal of Cybersecurity and Privacy, com revisão por pares, e destacada na cobertura recente de KSL.com e Phys.org.
“Nossa pesquisa é apenas a mais recente a mostrar o quão sofisticado é o estado atual da IA”, disse Jerson Francia, pesquisador de segurança cibernética da BYU envolvido no trabalho, de acordo com o comunicado à imprensa da BYU.
O que os pesquisadores fizeram
O estudo, de autoria de uma equipe da BYU e disponível como pré-impressão no arXiv, estabeleceu uma comparação controlada entre mensagens de texto de phishing personalizadas geradas pelo GPT-4 e mensagens escritas por humanos novatos – estudantes que escrevem sob restrições de tempo – para os mesmos 25 alvos.
Cada participante recebeu um conjunto de 12 mensagens personalizadas elaboradas especificamente para eles. Alguns foram gerados por IA, outros escritos por humanos. Os pesquisadores usaram um método que chamam de TRAPD – Threshold Ranking Approach for Personalized Deception – no qual os participantes classificavam as mensagens, indicavam o ponto em que pretendiam clicar, explicavam seu raciocínio e julgavam se cada mensagem havia sido escrita por uma pessoa ou pelo GPT-4.
O design é importante porque a maioria dos estudos anteriores sobre phishing media os resultados de forma abstrata. Este mediu as respostas a mensagens personalizadas para cada participante individual, que é exatamente como funciona o verdadeiro spear phishing.
Mais cliques, sem melhor detecção
Os números da manchete: As mensagens geradas pelo GPT-4 suscitaram a intenção de clicar com mais frequência do que as mensagens de autoria de estudantes – 28% versus 21% – embora os pesquisadores observem que a diferença acarreta incerteza estatística, dado o tamanho do estudo piloto.
O resultado mais perturbador é o que os participantes não conseguiram fazer. Quando questionados se uma mensagem foi escrita por um ser humano ou gerada por IA, os destinatários identificaram a fonte com mais precisão do que o acaso. Em outras palavras, a cautela extra que as pessoas acreditam aplicar ao texto escrito por máquina não apareceu nos resultados – os participantes do estudo estavam essencialmente jogando moedas no ar em relação à autoria.
O estudo também descobriu que o contexto supera o conteúdo: mensagens enquadradas em torno de assuntos relacionados ao trabalho eram significativamente mais propensas a desencadear a intenção de clicar do que mensagens vinculadas a hobbies ou mídias sociais. Para os invasores, isso é um multiplicador de força, porque os detalhes do emprego estão entre as informações pessoais mais fáceis de encontrar online.
Por que iscas relacionadas ao trabalho funcionam melhor
A descoberta sobre mensagens relacionadas com o trabalho merece atenção especial dos defensores. O spear phishing tem sucesso por meio da personalização – uma mensagem que faz referência ao seu empregador, à sua função ou aos seus projetos atuais parece legítima precisamente porque é específica.
Os resultados da BYU sugerem que grandes modelos de linguagem comprimem drasticamente esse fluxo de trabalho de personalização. O que antes exigia horas de pesquisa manual e elaboração cuidadosa por um engenheiro social qualificado agora pode ser aproximado a partir de simples instruções a um custo marginal próximo de zero, escrevem os pesquisadores. A barreira para executar uma campanha grande e personalizada não é mais a habilidade. É o acesso a um chatbot e a uma lista de alvos.
O que isso significa para os defensores
As implicações práticas são preocupantes para as equipes de segurança. O treinamento de conscientização muitas vezes ensina os funcionários a identificar frases estranhas, tons estranhos ou linguagem não natural – informações que historicamente expuseram tentativas de phishing. Um detector que depende da detecção de escrita “robótica” é agora mensuravelmente não confiável, uma vez que os destinatários deste estudo não conseguiram distinguir de forma alguma mensagens escritas por IA de mensagens escritas por humanos.
A equipe da BYU enquadra as descobertas como evidência de que a personalização acessível assistida por IA pode aumentar a escala prática das ameaças de engenharia social. As defesas que pressupõem que o phishing barato e genérico continuará a ser a norma baseiam-se numa suposição que os dados já não suportam.
Os pesquisadores também enfatizam os limites do estudo. Foi um piloto com 25 alvos usando mensagens SMS, com autores estudantes em vez de phishers profissionais – uma comparação que, no mínimo, subestima a lacuna entre a produção de IA e a qualidade média dos golpes no mundo real. A equipe observa que, embora os juízes humanos não conseguissem distinguir as fontes, os dois conjuntos de mensagens permaneceram computacionalmente distinguíveis, deixando espaço para abordagens de detecção automatizadas.
Para as organizações, a conclusão é processual e não técnica: verificar os pedidos através de canais separados, tratar a urgência e o enquadramento relacionado com o trabalho como sinais de risco, independentemente do grau de refinamento da mensagem, e assumir que bem escrito já não significa escrito por humanos.
Fique à frente da IA
Acompanhando como a IA está remodelando a segurança e a sociedade? Leia mais notícias sobre IA no AI Buzz Wire — cobertura independente de IA, todos os dias.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
