Школьники создают непристойные ИИ-изображения сверстников

В Великобритании школьники используют искусственный интеллект (ИИ) для создания непристойных изображений сверстников, что вызывает тревогу среди экспертов по вопросам защиты детей и технологий. Эксперты сообщают о растущем числе случаев, когда учащиеся генерируют с помощью ИИ изображения, которые юридически признаются материалами сексуальной эксплуатации детей (Child Sexual Abuse Material, CSAM).

В Центре безопасного Интернета Великобритании (Safer Internet Centre, UKSIC) и Фонде наблюдения за Интернетом (Internet Watch Foundation, IWF) подчеркнули, что качество генерируемых изображений настолько высокое, что они сравнимы с профессиональными фотографиями детей. Представители агентств выразили озабоченность по поводу фотореалистичности изображений, отмечая, что некоторые из них можно определить как изображения жертв сексуального насилия.

Особую тревогу вызывает потенциал распространения таких изображений в интернете, что делает их доступными для незнакомцев и сексуальных маньяков. UKSIC призывает к осведомленности о возможности злоупотребления технологией генерации изображений.

UKSIC, занимающаяся защитой детей, призывает школы срочно усилить меры по блокировке материалов CSAM. UKSIC указывает на важность предвидения вредоносного использования новых технологий, таких как генераторы изображений на основе ИИ, особенно учитывая, что дети могут не осознавать вред, который они могут нанести.

В Великобритании создание, владение и распространение изображений сексуальной эксплуатации детей, в том числе сгенерированных с помощью ИИ, является незаконным. Правило распространяется даже на мультяшные или менее реалистичные изображения.

Фонд наблюдения за Интернетом в прошлом месяце предупредил, что изображения сексуальной эксплуатации детей, созданные с помощью ИИ, могут переполнить интернет. Многие изображения настолько реалистичны, что их трудно отличить от настоящих даже аналитикам. Ситуация подчеркивает серьезность проблемы и необходимость немедленных действий для её решения.

Ранее Национальное агентство по борьбе с преступностью (National Crime Agency, NCA) Великобритании предупредило о распространении сгенерированных изображений CSAM. Такой тренд нормализует педофилию и недопустимое поведение в отношении детей. Агентство оценивает, что около 830 000 взрослых, или 1,6% взрослого населения Великобритании, представляют сексуальную угрозу для детей. Это число в 10 раз превышает общую численность населения, отбывающего наказание в тюрьмах страны.

Кроме того, эксперты по защите детей заявляют, что они не могут противостоять тысячам «изображений сексуального насилия над детьми, созданных ИИ», которые легко и быстро создаются и распространяются на тёмных форумах педофилов.