La IA crea correos electrónicos de phishing mejor que los humanos

Las redes neuronales continúan mostrando resultados sorprendentes en una amplia variedad de tareas. Es cierto que esta vez su trabajo no fue nada noble: con la ayuda de la inteligencia artificial, los investigadores de Singapur crearon correos electrónicos de phishing que demostraron ser más convincentes que los escritos por personas reales.

En particular, en las conferencias de ciberseguridad de Black Hat y Defcon celebradas en Las Vegas la semana pasada, expertos de la Agencia de Tecnología del Gobierno (Singapur) dijo sobre los resultados de un experimento inusual.

Escribieron cientos de correos electrónicos de phishing por su cuenta y luego crearon muchos más utilizando el algoritmo de procesamiento del lenguaje natural GPT-3 y otras tecnologías de inteligencia artificial. Luego enviaron esas cartas a 200 colegas para probar cuáles pensaban que eran más convincentes.

En ambos casos, los correos electrónicos contenían enlaces de seguimiento: no descargaron el virus en el dispositivo, sino que simplemente enviaron un informe de clics a los investigadores. El resultado fue sorprendente: las personas "significativamente más a menudo" hicieron clic en los enlaces de cartas compuestas por inteligencia artificial que en las escritas por otras personas. Desafortunadamente, no se proporcionan estadísticas exactas.

Los autores señalan que las cartas escritas por la IA sonaban "sorprendentemente humanas" y que la plataforma agregó automáticamente elementos inesperados. para hacer el texto más convincente; por ejemplo, citó las leyes de Singapur, ya que la información indicaba que los destinatarios de Singapur.

Los expertos han debatido durante mucho tiempo si tiene sentido que los estafadores capaciten a las redes neuronales para crear correos electrónicos de phishing; después de todo, los correos masivos siguen siendo extremadamente efectivos y rentables. Pero si necesita correos electrónicos dirigidos, cuya compilación requiere un trabajo adicional, las redes neuronales pueden ser realmente útiles.

Si bien puede parecer abrumador, la buena noticia es que la capacitación en IA de calidad cuesta millones de dólares, probablemente no. esperar que en un futuro cercano los estafadores decidan desembolsar en masa para mejorar el sistema, que ya es excelente laboral.