DiarioTi.com - el diario del profesional TI

Martes 12 Dic 2017 | Año 14 | Edición 31
Menu
letter
    

    Los vehículos autónomos pueden ser inducidos a errores alterando la señalética

    Grupo de científicos ha descubierto que al modificar las señales del tránsito es posible inducir a la inteligencia artificial que controla los coches autónomos a interpretar erróneamente la situación y cometer errores potencialmente graves.

    Diario TI 07/08/17 8:39:28

    El propósito de la investigación fue determinar la viabilidad de que un atacante imprima un cartel distinto al original y lo coloque encima de este en una calle o, alternativamente, que adhiera pequeños autoadhesivos a las señales con el fin de confundir al vehículo autónomo e inducirle a cometer errores.

    Indudablemente, la primera posibilidad podría engañar incluso a usuarios humanos, por lo que hay pocas posibilidades de prevenir tales sabotajes. Sin embargo, el segundo escenario probablemente afectaría únicamente a vehículos autónomos.

    La investigación constató que la alteración de señales de tránsito puede engañar a los automóviles en el 67% de los casos analizados.

    En la imagen de la ilustración, el cartel de “Stop” con las palabras “love” y “hate” engañó al sistema de aprendizaje automático de los coches, que clasificaron la leyenda completa como “Límite de velocidad 45” en el 100% de los casos.

    Según los investigadores, en la medida que se avanza en el desarrollo de tecnologías para vehículos autónomos, la normativa y supervisión vial, especialmente en las ciudades inteligentes, deberá procurar que no haya alteraciones, como graffiti o autoadhesivos, en la señalética pública.

    Una de las medidas propuestas será utilizar pintura antiadherente en las señales de tránsito. Otra medida sería requerir a los fabricantes incorporar reconocimiento contextual en sus sistemas de aprendizaje automático. Por ejemplo, no es lógico que haya un signo “Pare” en una autopista.

    Los detalles del estudio están disponibles en el documento “Robust Physical-World Attacks on Machine Learning Models” (documento PDF de 10 páginas, no requiere registro), escrito por ocho científicos de University of Washington, University of Michigan, Stony Brook University, y University of California, Berkeley.

    Fotografía (c) RioPatuca vía Shutterstock y captura del informe

    BMW Group, Intel y Mobileye prometen conducción totalmente autónoma en las calles antes del 2021

    La conducción autónoma generará una nueva “Economía de Pasajeros” por valor de US$ 7 billones

        • Seleccione su país -+

          Diario TI utiliza una plataforma GeoIP que automáticamente intenta detectar el país desde donde usted se conecta, para así presentarle contenidos regionales. Sin embargo, si la detección automática no es posible, usted puede seleccionar manualmente su país.