«Это не я, это Джим»: суд не оценил цифровую подмену истца

Необычный случай произошёл в суде штата Нью-Йорк: Джер Дьюолд попытался представить свои аргументы не лично, а через созданного с помощью нейросети цифрового двойника. Судья восприняла инициативу как недопустимую и упрекнула истца за отсутствие прозрачности.

Конфликт произошёл во время заседания апелляционного суда, в рамках спора между Дьюолдом и страховой компанией MassMutual Metro New York по делу о трудовых отношениях. Истец заранее получил разрешение представить своё выступление в формате видео, ссылаясь на ограничения по здоровью — в прошлом у него была онкология гортани. Однако вместо записи с собственным лицом он проиграл фрагмент, где к суду обращается ИИ-аватар по имени Джим.

Судьи не были готовы к такому повороту. Уже в начале записи один из членов коллегии прервала трансляцию, удивившись, кто именно обращается к суду. Когда Дьюолд сообщил, что это не реальный человек, а созданный цифровой образ, судья резко заявила, что тот не предупредил о таком способе подачи информации и не имел права использовать зал суда для продвижения бизнеса.

Момент из трансляции слушаний, когда ИИ-аватар показался на экране (Appellate Division, First Department)

Позже Дьюолд объяснил, что намеревался использовать реалистичного аватара, максимально похожего на самого себя, но технология подвела. Используемый сервис не смог вовремя сгенерировать нужный образ, и Дьюолд был вынужден воспользоваться одним из шаблонных аватаров платформы — Джимом. По словам истца, попытки создать собственного двойника дважды завершались неудачей — один процесс завис после шести часов, второй после восьми.

Дьюолд уверяет, что у суда была вся необходимая информация о намерении подать аргументы в видеоформате, но он не уточнил, что в записи будет изображён не он сам, а сгенерированный персонаж. Судья напомнила, что ранее истец уже выступал устно и не испытывал видимых трудностей с речью, а потому усомнилась в достоверности объяснений.

Дьюолд подчёркивает, что при создании текста выступления он действительно использовал генеративный ИИ, но затем тщательно проверил все формулировки. При этом он отметил, что открыто сообщает судам и оппонентам об использовании ИИ уже более года, как это рекомендовалось на одном из обсуждений с участием судей Нью-Йорка.

В юридическом сообществе сохраняется настороженность к ИИ. Один из недавних вебинаров Американской ассоциации юристов был посвящён вопросам использования ИИ в судопроизводстве. Там обсуждались как преимущества, так и риски, включая ошибки генерации, нарушение конфиденциальности и возможные злоупотребления.

Несмотря на замечания судьи и неловкость ситуации, Дьюолд продолжает считать, что технологии могут принести пользу, особенно тем, кто не может позволить себе юридическую помощь. Он уже подал письменные извинения за то, что не проинформировал суд о специфике видео и применении цифрового аватара.