En un artículo titulado “Cylance, I Kill You!“, los investigadores describen su “viaje de disección del cerebro de un producto líder de protección de endpoints basado en la IA, que culmina con la creación de un bypass universal”.
El antivirus AI en cuestión es CylancePROTECT, que BlackBerry adquirió el año pasado con planes de integrar la tecnología antivirus AI de Cylance en su plataforma de comunicaciones Spark para Internet de las Cosas (IOT).
El “bypass universal” es descrito de la siguiente manera en el artículo: “Las aplicaciones de IA en seguridad son transparentes y potencialmente útiles; sin embargo, los productos basados en IA ofrecen una superficie de ataque nueva y única. Es decir, al entender realmente cómo funciona un determinado modelo, y el tipo de características que utiliza para tomar una decisión, se alcanza el potencial de engañarlo constantemente, creando un bypass universal”.
Los investigadores de Skylight dijeron que al “analizar cuidadosamente el motor y el modelo del producto antivirus basado en IA de Cylance, identificamos un sesgo peculiar hacia un juego específico. Combinando un análisis del proceso de extracción de características, su gran dependencia de las cadenas y su fuerte sesgo para esta modalidad de gaming, logramos crear un bypass simple y divertido. Es decir, añadiendo una lista seleccionada de cadenas a un archivo malicioso, fuimos capaces de cambiar su puntuación significativamente, evitando la detección”. Según los investigadores, este método tuvo éxito con el 100% de los 10 principales programas maliciosos de mayo de 2019, y cerca del 90% en una muestra mayor de 384 programas maliciosos.
Más información sobre Cylance en Diario TI
Los investigadores ponen de relieve que los hackers suelen crear nuevo malware basándose en código de malware anterior que todavía es consigue eludir los antivirus actualizados. Sin embargo, esto requiere mucho trabajo por cada nueva instalación de malware. La diferencia en el caso de Cylance es que al descubrir la debilidad del antivirus basado en inteligencia artificial, los actores malignos pueden fácilmente desbaratar los equipos protegidos por dicho antivirus con todo tipo de malware ligeramente modificado.
Cómo se puede engañar a la IA
Con una sola investigación práctica, los expertos en seguridad de Skylight pudieron demostrar cuán catastróficamente vulnerables pueden ser las herramientas antivirus basadas en IA como CylancePROTECT.
Los investigadores ofrecieron una analogía fácil de entender sobre cómo las soluciones antivirus basadas en la IA pueden ser tan fáciles de engañar al descifrar el modelo de IA e inducirlo a tener en cuenta otras características. Esas características podrían ser adulteradas de manera similar, razón por la cual los investigadores concluyeron que el antivirus IA ni siquiera está cerca de ser la solución milagrosa de seguridad cibernética que sus creadores describieron para su lanzamiento.
En un evento realizado en Londres en junio de 2016, Stuart McClure, CEO de Cylance, declaró a Diario TI: “Cuando fundamos Cylance hace cuatro años lo hicimos con la singular misión de proteger a quienes no pueden protegerse, y fortalecer a quienes sí tienen la capacidad. Hemos conseguido nuestro objetivo de reinventar la seguridad de endpoints utilizando aprendizaje automático, de forma que la herramienta de IA piense como un hacker. Ahora solo queda poner nuestra solución en manos de directores de seguridad en las empresas, organizaciones, gobiernos y pymes, con la mayor rapidez posible”.
Anteriormente, en abril de ese año, Cylance había sorprendido a la comunidad tecnológica con su demostración en tiempo real de su solución AI de detección de ransomware, asegurando haber “desarmado el ADN del malware”.
Cylance confirmó la situación con el siguiente comunicado: “BlackBerry® Cylance® tiene conocimiento de que un bypass ha sido revelado públicamente por investigadores de seguridad. Hemos verificado que hay un problema con CylancePROTECT® que puede ser aprovechado para eludir el componente anti-malware del producto. Nuestros equipos de investigación y desarrollo han identificado una solución y lanzarán un hotfix automáticamente a todos los clientes que ejecuten versiones actuales en los próximos días. Se proporcionará más información tan pronto este disponible”.
