Чувство такта или тактика боя? ИИ-воспитатель для игроков Call of Duty выбирает первое

В преддверии выхода новой игры Call of Duty: Modern Warfare III, запланированного на 10 ноября, компания Activision сделала необычное заявление : в игровой процесс внедрят искусственный интеллект для модерации голосового чата.

Чтобы реализовать идею, Activision сотрудничает с Modulate. Система, получившая название ToxMod, будет обнаруживать и пресекать проявления ненависти, домогательства и другие формы агрессивного поведения.

Токсичное поведение среди геймеров — не новость, но для Call of Duty этот вопрос стоит особенно остро. Масштаб проблемы увеличивается пропорционально числу поклонников франшизы.

Разработчики уже внедрили фильтры для текстовых сообщений на 14 языках и создали умную систему жалоб от игроков. Алгоритмы позволили ограничить доступ к чату для более чем 1 миллиона аккаунтов, нарушивших правила. Интересно, что 20% получивших предупреждение больше не позволяли себе грубостей. Можно считать, обратная связь оказалась эффективной.

Важно учитывать, что алгоритмы распознавания голоса у ИИ еще не доведены до идеала. Есть риск, что поначалу будет много ложных срабатываний. Все зависит от качества аудио, акцентов и многообразия языков, а также дефектов речи. Создание системы, которая будет учитывать все эти факторы — непростая задача.

Activision подчеркивает, что в процессе модерации всегда будет участвовать человек: «Обнаружение происходит в реальном времени. Как только система распознает токсичные высказывания, она фиксирует их и категоризирует на основе “Кодекса поведения Call of Duty”. Возможно, администраторам понадобится больше контекста. Для этого нужно проанализировать похожие записи, прежде чем будет принято решение о применении санкций. Следовательно, меры будут предприниматься не мгновенно. По мере развития системы, наши процессы и скорость реакции будут совершенствоваться».

Разработка уже проходит бета-тестирование среди пользователей в Северной Америке. После выхода игры распространится на другие регионы, исключая Азию.

Если игроки не хотят, чтобы их разговоры прослушивались, они могут отключить голосовой чат в настройках. ИИ будет анализировать высказывания абсолютно каждого пользователя, без исключений.