Больше не получится послать всех в «####». В Roblox пришел вежливый ИИ-цензор

Платформа Roblox решила навести порядок в игровом чате и одновременно избавить пользователей от привычных «решёток», которые появляются вместо запрещённых слов. Компания представила новую функцию на основе искусственного интеллекта. Система переписывает грубые сообщения в реальном времени, сохраняя смысл фразы и нормальный ход разговора.

Roblox Corporation объявила о запуске функции автоматического перефразирования сообщений. Алгоритм следит за чатом во время игры и заменяет ругательства на более нейтральные формулировки. Такой подход должен сохранить динамику общения и снизить количество конфликтов между участниками.

На платформе ежедневно общаются миллионы пользователей. Координация действий во время игры часто происходит прямо в чате. Раньше при срабатывании фильтра вместо запрещённого текста появлялась строка из символов «####». Подобные сообщения ломали диалог и делали переписку трудной для понимания.

Новая система работает иначе. Искусственный интеллект анализирует сообщение и переписывает его в более корректной форме. Например, фраза «Hurry TF up!» раньше превращалась в «####». Теперь алгоритм изменит текст на «Hurry up!» и отправит уже исправленное сообщение.

Разработчики пояснили, что задача функции – не просто блокировать грубость, а мягко направлять общение в нормальное русло. Если алгоритм меняет текст, участники чата увидят уведомление о том, что система перефразировала сообщение ради соблюдения правил общения.

Функция работает только внутри игрового чата и доступна пользователям, подтвердившим возраст. Система также учитывает возрастные группы участников беседы. Поддержка доступна на всех языках, которые платформа переводит автоматически.

При разработке инструмента компания консультировалась с участниками подросткового совета Roblox. Подростки помогали настроить систему так, чтобы исправленные сообщения звучали естественно и не разрушали привычный стиль общения.

Roblox также улучшила основной механизм фильтрации сообщений. Обновлённая система лучше распознаёт попытки обойти ограничения, например так называемый leet-способ письма, когда буквы заменяют цифрами или символами. Тестирование показало заметный рост точности.

По данным компании, новая версия фильтра в 20 раз лучше выявляет сообщения, где пользователи пытаются передать или запросить личные данные. Речь идёт, например, о номерах телефонов или ссылках на аккаунты в социальных сетях.

В компании признают, что идеальной системы модерации не существует. Тем не менее разработчики считают новый инструмент важным шагом к более спокойному и понятному общению внутри Roblox. В будущем платформа планирует продолжить развитие инструментов безопасности и добавить новые элементы управления для пользователей.