Эксперты опасаются неконтролируемых действий ИИ на поле боя

В политических кругах нарастает дискуссия о новой военной реальности: внедрении автономного оружия, способного находить и уничтожать цели без прямого участия человека. Ведущие страны, такие как США и Китай, работают над созданием технологий, которые позволят доверить решения о жизни и смерти искусственному интеллекту.

Александр Кментт, ведущий дипломат Австрии по вопросам разоружения, подчеркивает: «Мы имеем дело с одной из самых критических проблем в истории человечества. Какую роль должен играть человек в ведении войны? Это ключевой вопрос, затрагивающий безопасность, право и этику».

Несмотря на всеобщую обеспокоенность, процесс создания международных юридических нормативов, которые могли бы обезопасить нас, идет медленно — все переговоры заходят в тупик. Важные игроки на мировой арене, включая Россию и Израиль, выступают против введения строгих регулировок. Китай не против правил, но только таких, которые оказали бы минимальное влияние на разработку и ведение боевых действий.

Текущие конфликты, особенно в Украине и на Ближнем Востоке, где активно используются дроны, подчеркивают важность проблемы.

Соединенные Штаты уже приняли внутренние правила, которые устанавливают рамки для использования ИИ в военных целях. Пентагон добавил в свою политику еще один пункт — «Автономия в системах вооружения». Согласно поправкам, перед тем как начать разработку или использовать новое оружие, нужно будет получить одобрение от Министерства обороны.

Однако неизвестно, насколько эффективными окажутся меры, учитывая, что во время переговоров некоторые представители США так же скептически отзывались о введении регулировок.

В одном из интервью Фрэнк Кендалл, секретарь ВВС США, выразился так: «Самостоятельность в принятии решений или ее отсутствие — это выбор между победой и поражением, а проиграть вы не хотите».

Многие дипломаты и эксперты серьезно обеспокоены влиянием умных технологий на характер ведения войны. Иногда эти системы действуют непредсказуемо и могут допускать ошибки, например, в процессе идентификации целей, особенно поначалу. Это похоже на аварии с участием беспилотных автомобилей. А просчеты искусственного интеллекта в такой ответственной миссии могут стоить слишком дорого.

Некоторые страны, в том числе США, Китай и Россия, видят в автономном оружии свои плюсы. По оценкам специалистов, оно поможет уменьшить количество случайных жертв среди граждан и предотвратить разрушения в жилых районах.

Организации по контролю за вооружениями, включая Международный комитет Красного Креста и инициативу «Stop Killer Robots» (Нет роботам убийцам), а также национальные делегации из Австрии, Аргентины, Новой Зеландии, Швейцарии и Коста-Рики, выдвинули ряд предложений по регулированию убийственных технологий.

Одни из них призывают к полному запрету на автономные системы, нацеленные на людей. Другая идея в том, чтобы оружие всегда находилось под строгим контролем, использовалось только в конкретных районах и в течение определенного времени.

Кментт признался журналистам, что ООН сталкивается с трудностями, принуждая страны следовать существующим правилам ведения войны. Тем не менее, он его мнению, новые юридические стандарты в этой области необходимы, чтобы ситуация не усугубилась.