ИИ-доказательства: "пиксели лжи" не убедили судью в США

В Вашингтоне судья запретил использовать видео, улучшенное с помощью ИИ, в качестве доказательства в судебном процессе по тройному убийству. Такое решение может стать первым подобным прецедентом в уголовном судопроизводстве США.

Судья Верховного Суда округа Кинг Лерой МакКаллох сказал, что технология ИИ – новая, и использует «непрозрачные методы для отображения того, что, по мнению ИИ, должно быть показано».

Применение доказательства, улучшенного ИИ, могло бы привести к путанице и затруднить восприятие показаний свидетелей, потребовав проведения дополнительного и времязатратного судебного разбирательства по поводу использованного ИИ метода, который не поддается рецензированию.

Решение вынесено на фоне быстрого развития искусственного интеллекта и его применений, в том числе распространения технологии создания дипфейков в соцсетях и политических кампаниях. Законодатели штатов и власти активно обсуждают потенциальные угрозы, связанные с подобной технологией.

Адвокаты обвиняемого в стрельбе у бара в пригороде Сиэтла в 2021 году, в результате которой погибли 3 человека и 2 были ранены, предложили в качестве доказательства видео, улучшенное с помощью ПО на основе машинного обучения. В защиту обвиняемого было представлено, что он действовал в целях самообороны.

Сторона обвинения указала на отсутствие юридического прецедента, позволяющего использовать такую технологию в уголовном процессе в США. Эксперты подчеркнули, что видео, обработанное ИИ, предсказывает изображения, вместо того чтобы отражать исходные размеры, формы, контуры и цвета, делая улучшенные кадры «неточными, вводящими в заблуждение и ненадежными».

По словам эксперта по видеоанализу Гранта Фредерикса, каждый пиксель в ИИ-видео генерируется заново, создавая иллюзию четкости и увеличенного разрешения изображения, которое не точно отражает происходившее на исходном видео. Фредерикс также отметил отсутствие рецензируемых публикаций, подтверждающих приемлемость методологии улучшения видео с помощью ИИ.