Entradas
Los automóviles autodirigidos son el futuro de la tecnología automotriz. Aunque estos vehículos están bien programados, todavía son propensos a problemas y engaños. Un equipo de ocho investigadores modificó con éxito los letreros de las calles para confundir a los automóviles que conducían a sí mismos. El software interno de los automóviles clasificó erróneamente las señales y, en consecuencia, tomó malas decisiones.
AUTO-CONDUCIR COCHES NO SON INMUNES A ERROR
Uno de los aspectos de auto-conducción de los automóviles que los hace tan atractivos es la forma en que pueden analizar el medio ambiente para tomar sus propias decisiones. La mayoría de los vehículos autónomos son más que capaces de recoger información sensorial de los carteles de las calles, por ejemplo. Los coches analizarán esos signos, alterarán su comportamiento en consecuencia y asegurarán que el pasajero llegue a la ubicación deseada con seguridad. Sin embargo, el problema surge cuando las señales de la calle se alteran.
Un equipo de ocho investigadores realizó recientemente un experimento con signos de calle alterados y vehículos autónomos. Resulta que el algoritmo de aprendizaje automático desarrollado para la mayoría de los vehículos clasificará erróneamente los signos alterados y consecuentemente tomará decisiones erróneas. En el peor de los casos, estos vehículos correrían el riesgo de poner en peligro la vida de los pasajeros.
La realización de experimentos como estos es una necesidad absoluta cuando se trata de coches sin conductor. Esta investigación muestra cómo un agresor fácilmente podría imprimir y colocar carteles en la parte superior de las señales de la calle o adjuntar pequeñas pegatinas para que se vean como algo completamente diferente. Por ejemplo, un signo con una flecha que apunta a la derecha podría ser superpuesto con pegatinas y ser falsificado para aparecer como apuntando a la izquierda. Esto puede parecer inofensivo al principio, pero podría tener consecuencias generalizadas.
Señales de calle falsas también engañar a los conductores humanos, por lo que el problema no es exclusivo de los coches sin conductor. Sin embargo, este último puede ser más fácilmente engañado. Desafortunadamente, casi siete en diez defacements de la muestra con éxito engañan los coches autónomos. Ese número es absolutamente inaceptable, especialmente teniendo en cuenta cómo estos signos podrían ser mal interpretados. Por ejemplo, una señal de alto puede ser clasificada erróneamente como lectura "Límite de velocidad 45".
La tecnología autodirectiva de automóviles se hará más difundida y más inteligente con el tiempo. Sin embargo, mantener los letreros de calle claros de vandalismo, graffiti, y lo que sea será difícil. Afortunadamente, parece que existen contramedidas. Usar un revestimiento antiadherente para letreros de calles, por ejemplo, sin duda aliviaría muchas preocupaciones. Los vendedores de automóviles también tendrán que actualizar sus algoritmos de aprendizaje de la máquina para tener en cuenta estas cuestiones potenciales en primer lugar.
Toda esta investigación ha sido documentada en el Robust Físico Mundo-Ataque en modelos de aprendizaje de máquina de papel. No es la primera vez que hemos visto una investigación similar, y es evidente auto-conducción de coches pueden ser interrumpidos fácilmente. Aparte de las señales de calle defectuosas, el software propio de los automóviles los hace vulnerables más a menudo que no. Todavía hay mucho trabajo por hacer.
el merkle
