La inteligencia artificial está haciendo que las estafas de phishing sean más efectivas, y la mayoría de las personas no pueden distinguir entre un señuelo escrito por IA y uno escrito por humanos. Ese es el hallazgo principal de una nueva investigación de la Universidad Brigham Young, publicada en el Journal of Cybersecurity and Privacy, revisada por pares, y destacada en la cobertura reciente de KSL.com y Phys.org.
"Nuestra investigación es sólo la última en mostrar cuán sofisticado es el estado actual de la IA", dijo Jerson Francia, investigador de ciberseguridad de BYU involucrado en el trabajo, según el comunicado de prensa de BYU.
Lo que hicieron los investigadores
El estudio, escrito por un equipo de BYU y disponible como preimpresión en arXiv, estableció una comparación controlada entre mensajes de texto de phishing personalizados generados por GPT-4 y mensajes escritos por principiantes humanos (estudiantes que escriben con limitaciones de tiempo) para los mismos 25 objetivos.
Cada participante recibió un conjunto de 12 mensajes personalizados elaborados específicamente para ellos. Algunos fueron generados por IA, otros escritos por humanos. Los investigadores utilizaron un método que llamaron TRAPD (el enfoque de clasificación de umbral para el engaño personalizado), según el cual los participantes clasificaron los mensajes, indicaron el punto en el que intentarían hacer clic, explicaron su razonamiento y juzgaron si cada mensaje había sido escrito por una persona o por GPT-4.
El diseño es importante porque la mayoría de los estudios de phishing anteriores midieron los resultados en abstracto. Este midió las respuestas a mensajes personalizados para cada participante individual, que es precisamente cómo funciona el phishing real.
Más clics, no hay mejor detección
Los titulares indican: Los mensajes generados por GPT-4 provocaron una intención de hacer clic con más frecuencia que los mensajes escritos por estudiantes (28% frente a 21%), aunque los investigadores señalan que la diferencia conlleva incertidumbre estadística dado el tamaño del estudio piloto.
El resultado más inquietante es lo que los participantes no pudieron hacer. Cuando se les preguntó si un mensaje fue escrito por un humano o generado por IA, los destinatarios identificaron la fuente con tanta precisión como el azar. En otras palabras, la cautela adicional que la gente cree que se aplica al texto escrito a máquina no apareció en los resultados: los participantes del estudio esencialmente estaban lanzando monedas al aire sobre la autoría.
El estudio también encontró que el contexto vence al contenido: los mensajes enmarcados en asuntos relacionados con el trabajo tenían significativamente más probabilidades de desencadenar una intención de hacer clic que los mensajes vinculados a pasatiempos o redes sociales. Para los atacantes, esto es un multiplicador de fuerza, porque los detalles laborales se encuentran entre la información personal más fácil de encontrar en línea.
Por qué los señuelos relacionados con el trabajo funcionan mejor
La conclusión sobre los mensajes relacionados con el trabajo merece una atención especial por parte de los defensores. El Spear phishing tiene éxito a través de la personalización: un mensaje que hace referencia a su empleador, su función o sus proyectos actuales se siente legítimo precisamente porque es específico.
Los resultados de BYU sugieren que los modelos de lenguaje grandes comprimen drásticamente ese flujo de trabajo de personalización. Lo que antes requería horas de investigación manual y redacción cuidadosa por parte de un ingeniero social capacitado ahora se puede aproximar a partir de indicaciones simples con un costo marginal cercano a cero, escriben los investigadores. La barrera para ejecutar una campaña grande y personalizada ya no es la habilidad. Es acceso a un chatbot y una lista de objetivos.
Qué significa para los defensores
Las implicaciones prácticas son aleccionadoras para los equipos de seguridad. La capacitación en concientización a menudo enseña a los empleados a detectar frases incómodas, tonos extraños o lenguaje poco natural, lo que indica que históricamente se expusieron intentos de phishing. Un detector que se basa en detectar escritura "robótica" ahora es considerablemente poco confiable, ya que los destinatarios de este estudio no pudieron distinguir en absoluto los mensajes escritos por IA de los escritos por humanos.
El equipo de BYU enmarca los hallazgos como evidencia de que la personalización accesible asistida por IA puede aumentar la escala práctica de las amenazas de ingeniería social. Las defensas que suponen que el phishing genérico y barato seguirá siendo la norma se basan en una suposición que los datos ya no respaldan.
Los investigadores también enfatizan los límites del estudio. Fue un piloto de 25 objetivos que utilizó mensajes SMS, con estudiantes autores en lugar de phishers profesionales, una comparación que, en todo caso, subestima la brecha entre la producción de IA y la calidad promedio de las estafas en el mundo real. El equipo señala que, si bien los jueces humanos no podían distinguir las fuentes, los dos conjuntos de mensajes permanecían distinguibles computacionalmente, dejando espacio para enfoques de detección automatizados.
Para las organizaciones, la conclusión es más de procedimiento que técnica: verificar las solicitudes a través de canales separados, tratar la urgencia y el encuadre relacionado con el trabajo como señales de riesgo, independientemente de cuán pulido se lea el mensaje, y asumir que estar bien escrito ya no significa escrito por humanos.
Manténgase por delante de la IA
¿Seguir cómo la IA está remodelando la seguridad y la sociedad? Lea más noticias sobre IA en AI Buzz Wire: cobertura independiente de IA, todos los días.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
