Карма для продавцов. Сначала они фотошопили товары, теперь клиенты фотошопят брак

В последние месяцы в Китае участились случаи мошенничества с возвратом в интернет-магазинах, связанных с использованием сгенерированных нейросетями изображений. Покупатели прикладывают поддельные фото и видео, на которых якобы запечатлён повреждённый товар, и требуют возврата средств. Для подтверждения таких жалоб продавцы чаще всего не просят вернуть товар, особенно если он скоропортящийся или стоит недорого, что создаёт благоприятные условия для обмана.

На китайской платформе RedNote появилось множество жалоб от сотрудников служб поддержки и онлайн-продавцов, заметивших подозрительную активность. На фото, сопровождающих претензии, встречаются неестественные повреждения, несоответствие деталей и ошибки в изображениях, выдающие работу генеративных алгоритмов. На одном снимке упаковка с китайской маркировкой содержит символы, не имеющие смысла, на другом — трещины на кружке выглядят так, будто они нарисованы на бумаге.

Особенно часто такие методы применяются к товарам, не подлежащим возврату: овощам и фруктам, дешёвой косметике, а также легко бьющимся предметам. Например, один из продавцов крабов на платформе Douyin получил от клиента видео, на котором морепродукты якобы уже погибли при доставке. Однако, как выяснилось позже, ролик был сгенерирован. Несоответствие пола крабов и анатомических особенностей, а также странная поза якобы мёртвых животных вызвали подозрения. Инцидент привёл к полицейской проверке, и в результате покупатель был задержан за фальсификацию доказательств.

Мошенничество подобного рода стало заметной проблемой и за пределами Китая. По данным американской компании Forter, только за последний год количество претензий с использованием поддельных изображений увеличилось более чем на 15 процентов. Причём такие действия применяются не только отдельными пользователями, но и организованными группами. В одном из случаев, по словам главы Forter Михаэля Рейтблата, с помощью ИИ злоумышленники подали заявок на возврат на сумму более миллиона долларов, одновременно используя подставные аккаунты и подмену IP-адресов.

Некоторые продавцы пытаются бороться с проблемой с помощью тех же технологий. Один из китайских магазинов, торгующий игрушками, демонстрировал, как загрузка подозрительных снимков в чат-бот помогает выявить фальсификации. Но даже если ИИ подтверждает подделку, платформы не всегда встают на сторону продавцов. Это, по мнению представителей отрасли, может привести к ужесточению правил возврата, что ударит в первую очередь по честным покупателям.

Всё это лишь усиливает прежние опасения, когда покупателей возмущали сгенерированные изображения самих товаров — при доставке они получали то, что слабо напоминало то, что было на фото в карточке товара. Теперь, когда ИИ-сервисы доступны каждому, и мошенничество со стороны покупателя тоже возможно — ситуация лишь усугубится.

Текущие меры защиты, такие как водяные знаки или ручная проверка, уже не справляются. Для стабильной работы систем онлайн-торговли необходимы новые механизмы проверки, доработанные правила возврата и более жёсткие требования к цифровым доказательствам.