ИИ и детская порнография: как технологии переходят все границы и что с этим делать?

В среду генеральные прокуроры всех 50 штатов США отправили письмо в Конгресс с призывом учредить экспертную комиссию. По задумке, эта комиссия должна заняться изучением роли генеративного ИИ в создании детской порнографии.

«У нас глубокие и серьезные опасения за безопасность детей в наших юрисдикциях», — говорится в письме. Прокуроры также подчеркивают, что несмотря на активное преследование интернет-преступлений против детей и подростков, нейросети открывают новые горизонты для нарушителей.

Алгоритмы синтеза изображений, такие как Stable Diffusion, облегчают создание незаконного контента. К сожалению, с развитием технологий у этих инструментов появляется все больше поклонников, и, поскольку многие из моделей ИИ открыты и работают локально, не существует надежных механизмов контроля. Успокаивает то, что некоторые известные программы, например, Midjourney, DALL-E и Adobe Firefly, уже имеют встроенные фильтры против создания порнографического контента.

Искусственный интеллект хорош в генерации дипфейков. Программа может за секунды создать реалистичное изображение, наложив лицо одного человека на тело другого.

Правоохранители считают, что доступность даже нереалистичной детской порнографии, созданной нейросетью, способствует нормализации насильственных действий против несовершеннолетних. В США уже существуют законы, запрещающие некоторые виды фиктивного контента, но все же вопрос остается открытым.

Прокуроры предлагают несколько решений. Во-первых, необходимо создать экспертную комиссию, которая будет изучать генеративные технологии и их использование в подобного рода преступлениях. Во-вторых, Конгресс должен расширить существующие ограничения на материалы сексуального характера, включая те, что созданы с помощью ИИ.

Авторы письма призывают к активным действиям, подчеркивая, что «сейчас самое время действовать».