Партия говорит: «Твоя девушка — алгоритм, и это проблема». Как в Китае запрещают цифровую любовь

Чатбот, который умеет говорить с вами как «живой человек», сочувствовать и подстраиваться под настроение, может оказаться не просто развлечением, а привычкой, от которой сложно отказаться. Власти Китая, похоже, тоже видят в этом риск: в субботу китайский киберрегулятор опубликовал проект правил, которые должны ужесточить контроль над ИИ-сервисами, имитирующими человеческую личность и вовлекающими пользователя в эмоциональное общение.

Речь идет о продуктах и услугах, доступных широкой публике в Китае, которые демонстрируют «человеческие» черты, манеру мышления и стиль коммуникации, а также взаимодействуют с пользователем через текст, изображения, аудио, видео и другие форматы. По замыслу регулятора, такие системы требуют отдельного набора требований, потому что они не просто отвечают на вопросы, а могут формировать привязанность и ощущение личного контакта.

Проект предлагает обязать разработчиков и владельцев сервисов предупреждать пользователей о рисках чрезмерного использования и вмешиваться, если появляются признаки зависимости. Предполагается, что ответственность за безопасность должна сопровождать продукт на всем жизненном цикле, от разработки и обучения модели до эксплуатации. В документе также упоминаются требования к внутренним процедурам проверки алгоритмов, защите данных и персональной информации.

Отдельный акцент сделан на потенциальных психологических последствиях. Провайдеров могут обязать определять состояние пользователя, оценивать его эмоции и степень зависимости от сервиса. Если у человека фиксируются крайние эмоциональные реакции или поведение, похожее на зависимость, сервис должен принять «необходимые меры» для вмешательства.

Проект также устанавливает ограничения по содержанию и поведению таких систем. В частности, ИИ-сервисы не должны генерировать контент, который угрожает национальной безопасности, распространяет слухи или поощряет насилие и непристойные материалы. Сейчас документ вынесен на общественное обсуждение, и по его итогам правила могут быть уточнены перед возможным введением в действие.