Сказки о безопасности: Человек-невидимка

Сказки о безопасности: Человек-невидимка

Вот и пришла весна. В такую погоду хорошо бы прогуляться по парку, просто подумать. Тем более задача, поставленная службой внешней разведки перед департаментом интеллектуальных преступлений, была странной. Нужно сделать так, чтобы сотрудник мог пройти незамеченным по улице, на которой полно камер. Пройти, не будучи обнаруженным системами распознавания. Как? Непонятно. Несколько лет назад подобные исследования уже проводились, но с использованием только статичных объектов (тогда удалось заставить нейросеть принять дорожный знак «Стоп» за знак ограничения скорости). Намного сложнее обмануть систему видеонаблюдения, где движущийся объект должен оставаться невидимым на протяжении всей съемки.

Задача стояла уже почти год. Сегодня Майкл заявил, что им удалось ее решить. Осталось понять, как. Да и натурные испытания были назначены именно на сегодня.

С такими мыслями Иоганн пришел на работу. То, что задача была решена, он ни секунды не сомневался, но не понимал, как ее решили.

Итак, 10 часов утра. Пора на полигон вместе с представителями разведки. Софи одевает футболку. Сама футболка вполне обычная. Но на ней особый рисунок из абстрактных разноцветных пятен, способный сбить с толку искусственный интеллект в системах видеонаблюдения. Эксперимент начался.

Софи просто шла по улице. Глазами ее, естественно, было видно, но система распознавания сигналов не подавала. Софии была на улице, но для системы ее не было.

— Иоганн, вы можете пояснить, как это?

— Лучше этот вопрос задать руководителю проекта. Рита, поможешь?

— Конечно, шеф! На самом деле все предельно просто. Используемые в системах распознавания объектов искусственные нейронные сети распознают кого-то или что-то как изображение, рисуют вокруг него рамку и идентифицируют. Благодаря этой рамке нейросеть может определить, является ли что-либо объектом или нет. Нам удалось вычислить граничные точки этой рамки и создать рисунок, способный «убедить» нейросеть, что перед ней находится не объект.

— Получается, что объект физически есть, но на кадре его якобы нет?

— Ну, не совсем так. На кадре он есть, да вот только распознать его можно только вручную. Когда распознавание происходит в каждом кадре, оставаться полностью необнаруженным очень сложно. Просто мы определили участки тела, добавив к которым пиксельный шум, можно сбить ИИ с толку и сделать человека невидимым для него.

— Я всегда верил, что вы волшебники, но только что убедился в этом.

— Служим империи!

Если вы думаете, что это сказка, то это далеко не так! Команда специалистов из Северо-Восточного университета в Бостоне, Массачусетского технологического института и компании IBM разработали футболку, надев которую, человек становится невидимым для камер видеонаблюдения.

Alt text

Подписывайтесь на каналы "SecurityLab" в TelegramTelegram и TwitterTwitter, чтобы первыми узнавать о новостях и эксклюзивных материалах по информационной безопасности.

Владимир Безмалый

О безопасности и не только