Одной из задач состязательной защиты является разработка методов обнаружения и защиты от состязательных атак. Это важно, поскольку модели машинного обучения широко используются в реальных приложениях, где ошибки могут приводить к серьезным последствиям.
Обладатель стильного предмета гардероба, попавший в поле зрения камеры, либо вообще не будет идентифицирован, либо система распознавания примет его за животное.
Исследователи подтвердили ненадежность методов глубокого обучения для обнаружения DDoS-атак с усилением DNS и их уязвимость к атакам со стороны противника.
Ученые разработали технику, использующую объяснительные методы для определения данных, подвергшихся состязательным атакам.