Китай будет контролировать работу нейросетей

Управление по вопросам киберпространства Китая (CAC) издало указ , запрещающий генерацию нейросетями изображений без водяных знаков. Новые правила Китая вступят в силу 10 января 2023 года.

В соответствии с новыми правилами САС будет пристально следить за «технологией глубокого синтеза». Принятие постановления связано с тем, что некоторые пользователи используют нейросети для «создания и распространения незаконной и наносящей вред информации, чтобы оклеветать других или подделать чужую личность». Это влияет на общественный порядок, ущемляет права и интересы людей, ставит под угрозу национальную безопасность и социальную стабильность.

В соответствии с правилами, правительство будет проверять безопасность новых ИИ-продуктов. Каждый продукт должен соответствовать определенным правилам, прежде чем он будет выпущен.

Кроме того, поставщики услуг глубокого синтеза должны добавлять водяные знаки, не влияющие на использование информационного контента, созданного с использованием их продуктов. Какой-либо сгенерированный контент – текст, голос, портрет или иммерсивные реалистичные сцены – должен помечаться заметным водяным знаком, чтобы избежать путаницы или неправильной интерпретации со стороны общественности.

Более того, компаниям и отдельным пользователям запрещено использовать технические средства для удаления, изменения или сокрытия водяных знаков»

Также поставщики технологии глубокого синтеза должны вести свои записи в соответствии с законом, а пользователи должны регистрировать учетные записи под своими настоящими именами, чтобы можно было отследить их деятельность, связанную с генерацией контента.