El propósito de la investigación fue determinar la viabilidad de que un atacante imprima un cartel distinto al original y lo coloque encima de este en una calle o, alternativamente, que adhiera pequeños autoadhesivos a las señales con el fin de confundir al vehículo autónomo e inducirle a cometer errores.
Indudablemente, la primera posibilidad podría engañar incluso a usuarios humanos, por lo que hay pocas posibilidades de prevenir tales sabotajes. Sin embargo, el segundo escenario probablemente afectaría únicamente a vehículos autónomos.
La investigación constató que la alteración de señales de tránsito puede engañar a los automóviles en el 67% de los casos analizados.
En la imagen de la ilustración, el cartel de “Stop” con las palabras “love” y “hate” engañó al sistema de aprendizaje automático de los coches, que clasificaron la leyenda completa como “Límite de velocidad 45” en el 100% de los casos.
Según los investigadores, en la medida que se avanza en el desarrollo de tecnologías para vehículos autónomos, la normativa y supervisión vial, especialmente en las ciudades inteligentes, deberá procurar que no haya alteraciones, como graffiti o autoadhesivos, en la señalética pública.
Una de las medidas propuestas será utilizar pintura antiadherente en las señales de tránsito. Otra medida sería requerir a los fabricantes incorporar reconocimiento contextual en sus sistemas de aprendizaje automático. Por ejemplo, no es lógico que haya un signo “Pare” en una autopista.
Los detalles del estudio están disponibles en el documento “Robust Physical-World Attacks on Machine Learning Models” (documento PDF de 10 páginas, no requiere registro), escrito por ocho científicos de University of Washington, University of Michigan, Stony Brook University, y University of California, Berkeley.
