Sophos ha publicado dos informes sobre el uso de la IA en la ciberdelincuencia. El primer informe, titulado “El lado oscuro de la IA: campañas de estafa a gran escala posibles gracias a la IA generativa”, ilustra cómo los estafadores podrían utilizar tecnologías de IA generativa, como ChatGPT, para cometer fraudes a gran escala con unos conocimientos técnicos mínimos.
A pesar del potencial, el segundo estudio de Sophos, “Los ciberdelincuentes no se ponen de acuerdo sobre los GPT”, muestra que los ciberdelincuentes se muestran escépticos e incluso preocupados por la utilización de la IA para sus estafas. Aunque en la actualidad la IA ayuda a los ciberdelincuentes a automatizar tareas sencillas como la generación de imágenes y textos para la ingeniería social, su uso en la ciberdelincuencia se encuentra todavía en una fase incipiente.
Los investigadores de Sophos X-Ops, utilizando una plantilla básica de comercio electrónico y herramientas LLM como GPT-4, crearon un sitio web totalmente funcional con imágenes generadas por IA, audio, descripciones de productos y una página fraudulenta de inicio de sesión y pago en Facebook para robar las credenciales de los usuarios y la información de sus tarjetas de crédito. Esta hazaña requirió unos conocimientos técnicos mínimos y, utilizando la misma herramienta, se podrían crear cientos de sitios web similares en cuestión de minutos.
Ben Gelman, científico de datos senior de Sophos, comentó esta tendencia, declarando: “Es natural, y esperable, que los delincuentes recurran a las nuevas tecnologías para automatizarse… Sin embargo, parte de la razón por la que realizamos esta investigación fue adelantarnos a los delincuentes… tenemos una oportunidad única para analizar y prepararnos para la amenaza antes de que prolifere”.
La investigación de Sophos X-Ops sobre la actitud de los ciberdelincuentes hacia la IA consistió en examinar los principales foros de la web oscura. Los resultados indicaron que, aunque el uso de herramientas de IA es incipiente, se están produciendo debates sobre su potencial para la ingeniería social. Los ciberdelincuentes también expresaron sentimientos encontrados sobre el uso de cuentas ChatGPT falsas y jailbreaks con fines maliciosos.
Christopher Budd, director de investigación de X-Ops en Sophos, compartió las conclusiones de sus hallazgos: “…hasta ahora, los cibercriminales son más escépticos que entusiastas… En dos de los cuatro foros de la dark web que examinamos, sólo encontramos 100 mensajes sobre IA… En otras palabras, al menos por ahora, parece que los ciberdelincuentes mantienen los mismos debates sobre la IA que el resto del mundo”.
Para más detalles sobre las páginas web de estafas generadas por IA y la postura de los ciberdelincuentes sobre los GPT, puede acceder a los informes “El lado oscuro de la IA” y “Los ciberdelincuentes no se ponen de acuerdo sobre los GPT” en Sophos.com.
