Онлайн-платформа Civitai вводит награды за создание дипфейков реальных людей

Онлайн-площадка Civitai для обмена моделями искусственного интеллекта, знаменитая тем, что неофициально позволяет создавать сексуальные изображения реальных людей без их согласия, представила новую функцию , позволяющую участникам платформы публиковать запросы с вознаграждением для других пользователей.

Система вознаграждений позволяет заинтересованным пользователям просить сообщество Civitai создавать модели искусственного интеллекта, которые сгенерируют изображения конкретных реальных людей, и вознаграждать лучшую модель искусственного интеллекта, которая сделает это, виртуальной валютой «Buzz», приобретаемой за реальные деньги.

Запросы с вознаграждением за создание ИИ-модели для генерации конкретных девушек

Детали конкретного запроса, где заказчик оставил информацию о конкретной стримерше, где можно найти её фотографии

Так, Instagram-модель* Мишель Алвес уже столкнулась со злоупотреблением своим визуальным образом в сексуальном контексте и нелестно отозвалась о сообществе Civitai, отметив, что Интернет, кажется, вышел из-под контроля.

Современные инструменты искусственного интеллекта значительно облегчают злоупотребление изображениями любых людей, причём не только медийных личностей, чьими фотографиями переполнен Интернет, а абсолютно любыми людьми, ведущими хотя бы небольшую социальную активность.

Несмотря на политику Civitai, запрещающую несогласованные сексуальные изображения, создание такого контента активно продолжается, а администраторы платформы, по-видимому, не успевают бороться с наплывом злоупотреблений или попросту не могут контролировать то, что затем сможет сгенерировать «покупатель» модели.

Ранее на платформе уже практиковались запросы на создание моделей для генерации реальных людей, однако теперь это формализовано и монетизировано с помощью функции вознаграждений.

Конечно, сексуальное злоупотребление гораздо серьёзнее, чем любой другой вид использования визуальных образов без согласия, однако против чего-то подобного на протяжении четырёх месяцев бастовали американские актёры из профсоюза SAG-AFTRA, которые, по итогу, смогли отстоять права на свои визуальные образы , а любое использование их цифровых копий крупными киностудиями теперь должны быть согласовано и оплачено по той же цене, как будто настоящий актёр сам принимал участие в съёмках.

Визуальные образы людей — это часть их личности и идентичности. Несанкционированное использование чужих изображений подрывает чувство безопасности и контроля над собственной жизнью.

Платформы вроде Civitai, поощряющие создание дипфейков без согласия изображаемых людей, открывают дверь для злоупотреблений и нарушения личных границ. Хотя администраторы заявляют о запрете сексуального контента, на практике это не контролируется подобающим образом.

Чтобы защитить права и цифровую безопасность реальных людей, владельцам платформ, подобным Civitai, необходимо выработать чёткие правовые и этические нормы использования своих сервисов. В противном случае стремительное распространение компрометирующих дипфейков может нанести серьёзный ущерб психическому здоровью многих людей и подорвать их доверие к информационному пространству.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.