Боевой ИИ впервые принял решение об убийстве человека

Британская газета Daily Mail со ссылкой на собственные источники и отчет ООН рассказала о первом случае применения против пехоты полностью автономных дронов, начиненных взрывчаткой.

По данным издания, нападение было совершено в Ливии весной прошлого года. Квадрокоптеры Kargu-2, начиненные взрывчаткой, без приказов со стороны оператора, атаковали вражеских пехотинцев, что привело к «серьезным потерям». Однако официально ни одна из сторон конфликта не сообщила о смерти бойцов.

Сообщения о первой атаке дронов без участия диспетчера вызывают неизбежные вопросы о возможности ошибочных решений — дело в том, что искусственный интеллект пока не настолько развит, чтобы отличить солдата от фермера.

"Современные системы, основанные на машинном обучении, не в состоянии отличить фермера от солдата. Так, фермеры могут взять в руки винтовку, чтобы защитить свою землю, а солдаты могут использовать грабли, чтобы опрокинуть орудийную башню. <…> До сих пор сложно даже адекватно различать разные виды техники", - цитирует издание слова эксперта.

Эксперт в области автономных систем вооружений Зак Келленборн выразил серьезную обеспокоенность инцидентом. "Как часто они принимают ошибочные решения?" - спрашивает он.

И эксперты, и правозащитные организации призывают ввести регуляцию в данном вопросе. Human Rights Watch призвала запретить автономные системы, чтобы избежать появления роботов-убийц.