Как взламывают смарт-автомобиль с помощью липкой ленты

Как взламывают смарт-автомобиль с помощью липкой ленты
Используя сотни крошечных датчиков и камер, поддеживаемых мощным компьютером с искусственным интеллектом, самоуправляемые (беспилотные) автомобили могут самостоятельно передвигаться по дорогам общего пользования. Чтобы делать это безопасно, они должны быть очень умными.

При благоприятных условиях системы искусственного интеллекта чрезвычайно умны. Но когда они сталкиваются с неизвестной (непонятной) ситуацией, они могут поступать совершенно неразумно.

Именно таким образом с помощью липкой ленты стоимостью в несколько десятков рублей можно «сломать» самоуправляемый (беспилотный) автомобиль стоимостью в десятки тысяч долларов США.

Обучение тому, что ожидать
Подобно ребенку в школе, системы искусственного интеллекта нуждаются в обучении. Исследователи вводят тысячи фрагментов данных в движок искусственного интеллекта, чтобы он мог научиться управлять автомобилем. Данные включают в себя миллионы фотографий и видеоматериалов, благодаря которым автомобиль сможет распознавать другие транспортные средства, дорожную разметку, знаки и опасности, с которыми он может столкнуться во время поездки.

Механизм искусственного интеллекта становится превосходным в распознавании элементов, соответствующих данным, на которых он был обучен. Когда автомобиль видит знак ограничения скорости, он может соответственно тормозить или ускоряться.
Но если автомобиль сталкивается с чем-то новым, чему он не был обучен, система искусственного интеллекта делает расчет наилучшей оценки – и именно здесь могут возникнуть проблемы.

Разница между человеком и искусственным интеллектом
Иногда эти неожиданные различия могут быть невероятно тонкими. Давайте рассмотрим следующий пример:



Очевидно, что с этим знаком что-то не так, но водитель-человек может увидеть эту проблему и понять, каким в действительности должно быть ограничение скорости - 35. Системы искусственного интеллекта, оказывается, пока не так уж и умны. Наклеенная лента на этом знаке сбивает с толку камеры автомобиля: вместо “35” автомобиль видит “85” и разгоняется далеко за пределы допустимого значения скорости.

Другие эксперименты дали аналогичные результаты. С помощью нескольких кусочков липкой ленты значение уличного знака может быть полностью изменено. Когда это происходит, самоуправляемый автомобиль становится более непредсказуемым – и, как следствие, опасным.

Хорошей новостью является то, что специалисты по обработке данных знают об этих проблемах и активно работают над их предотвращением. Но, как и в любом другом аспекте компьютерной безопасности, существует постоянная борьба, поскольку специалисты пытаются идентифицировать и исправлять эксплойты так же быстро, как преступники и хакеры разрабатывают их.

Проблема, которая в ближайшее время никуда не денется
Реальность такова, что искусственный интеллект невероятно хорош для целенаправленных задач с предсказуемыми событиями. Но такие системы испытывают затруднения, когда они сталкиваются с чем-то, что выходит за рамки их обучения, даже если изменение крошечное, как кусок ленты.

Поскольку искусственный интеллект становится еще более важным аспектом современной жизни , мы можем ожидать, что подобные "взломы" будут происходить в дальнейшем, причем, не только в отношении смарт-автомобилей. Практически любую систему можно обмануть или сломать, и, как показывает пример с липкой лентой, такие атаки невероятно просты и эффективны.


Оригинал статьи: How to hack a smart car – with sticky tape
Panda Security в России и СНГ
+7(495)105 94 51, marketing@rus.pandasecurity.com
Искусственный интеллект взлом хакер самоуправляемый автомобиль
Alt text

В нашем телеграм канале мы рассказываем о главных новостях из мира IT, актуальных угрозах и событиях, которые оказывают влияние на обороноспособность стран, бизнес глобальных корпораций и безопасность пользователей по всему миру. Узнай первым как выжить в цифровом кошмаре!

Panda Security в России и СНГ

Новости и события компании. Информационная безопасность IT-устройств дома, малого и среднего бизнеса, антивирусы.