Ученые смогли обмануть беспилотный автомобиль, «подправив» дорожные знаки

Ученые смогли обмануть беспилотный автомобиль, «подправив» дорожные знаки

Атакующий может подменить изображения на дорожных знаках с помощью плакатов либо добавить небольшие стикеры на легитимные дорожные знаки.

Путем небольшой модификации дорожных знаков можно обмануть беспилотный автомобиль и заставить его систему машинного обучения неправильно классифицировать знаки и принимать неверные решения, что поставит под угрозу безопасность пассажиров. К такому выводу пришла группа американских ученых по итогам проведенного исследования .

Идея исследования заключалась в том, что атакующий может подменить изображения на дорожных знаках с помощью специально отпечатанных плакатов либо добавить небольшие стикеры на легитимные дорожные знаки. Используя первый сценарий, злоумышленник сможет обмануть не только системы беспилотного авто, но и людей, в то время как второй метод атаки будет эффективен только в случае беспилотного автомобиля.

В ходе эксперимента ученые использовали несколько дорожных знаков с различными типами надписей, наклеек и граффити. По словам исследователей, в 100% случаев, автомобили распознавали знак «Стоп» с надписями Love\Hate как знак «Ограничение скорости 45», второй и третий знаки также распознавались как «Ограничение скорости 45», но только в 67% случаев. Что касается четвертого знака, его система машинного обучения классифицировала как знак «Стоп» вместо «Правый поворот» в 100% случаев.


Ранее южнокорейские ученые разработали ряд методов атак, позволивших им обмануть датчики LIDAR (Light Detection and Ranging), используемые в беспилотных автомобилях.

Большой брат следит за вами, но мы знаем, как остановить его

Подпишитесь на наш канал!