ИИ увеличивает риск сексуального насилия над детьми в реальной жизни

Искусственный интеллект становится главным участником растущего тренда, в котором создаются реалистичные изображения детей в сексуальных контекстах, что, по словам исследователей, может привести к увеличению числа сексуальных преступлений против детей в реальном мире.

ИИ-сервисы, способные имитировать человеческий диалог и создавать реалистичные изображения, набирают популярность во многом благодаря запуску чат-бота ChatGPT. ИИ, способный оказывать помощь в рабочих или учебных задачах, привлекает внимание людей по всему миру. Однако, некоторые используют ИИ-платформы для вредоносных целей.

Национальное агентство по борьбе с преступностью (National Crime Agency, NCA) Великобритании предупредило о распространении сгенерированных изображений детей в сексуальном контенте (Child Sex Abuse Material, CSAM). Такой тренд нормализует педофилию и недопустимое поведение в отношении детей.

Агентство оценивает, что около 830 000 взрослых, или 1,6% взрослого населения Великобритании, представляют сексуальную угрозу для детей. Это число в 10 раз превышает общую численность населения, отбывающего наказание в тюрьмах страны.

Специалисты NCA ведомства пришли к выводу, что просмотр таких изображений – независимо от того, реальные они или созданы с помощью ИИ – существенно увеличивает риск сексуального насилия над детьми в реальной жизни. Кроме того, сгенерированные изображения могут использоваться в сексуальных шантажах .

Вредоносные материалы, созданные искусственным интеллектом, также могут повторно навредить реальным жертвам, чьи изображения из прошлого использовались для обучения моделей искусственного интеллекта для создания фальшивых изображений.

В США также наблюдается взрывной рост использования ИИ для создания сексуальных изображений детей. Все это создает дополнительные сложности для правоохранительных органов в идентификации жертв и борьбе с преступлениями.

При этом, несмотря на наличие четких руководящих принципов на популярных платформах ИИ, направленных на предотвращение создания недопустимых изображений, на темных веб-форумах обсуждаются обходные пути для создания сексуальных изображений.

Ранее эксперты по защите детей заявили, что они не могут противостоять тысячам «ИИ-изображений сексуального насилия над детьми», которые легко и быстро создаются и распространяются на тёмных форумах педофилов

Кроме того, компания Meta* в этом году сделала открытым исходный код своей большой языковой модели (LLM) под названием LLaMA. Это мощный искусственный интеллект, который может генерировать тексты на разные темы. Однако некоторые пользователи уже вовсю используют эту технологию для создания своих собственных текстовых и графических чат-ботов для виртуального секса.

* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.