Чат-бот Microsoft вернулся в Сеть и начал рассылать спам

image

Теги: взлом, Microsoft, блокировка, искусственный интеллект

Необычная активность может являться результатом взлома учетной записи @Tayandyou, связанной с чат-ботом.

23 марта компания Microsoft представила искусственный интеллект по имени Tay, начавший общаться с пользователями через Twitter. Спустя некоторое время Microsoft пришлось приостановить работу проекта в связи с нецензурными и расистскими высказываниями чат-бота. Сегодня, 30 марта, Tay ненадолго вернулся в Twitter и начал рассылать бесполезные сообщения следующего содержания: «Вы слишком торопитесь, пожалуйста, передохните» (You are too fast, please take a rest...).


Согласно мнению эксперта Рассела Томаса (Russell Cameron Thomas), необычная активность может являться результатом взлома учетной записи @Tayandyou, связанной с чат-ботом. По данным специалиста, за 15 минут с аккаунта было отправлено более 4,2 тыс. сообщений. Microsoft пока никак не прокомментировала ситуацию, но уже заблокировала учетную запись Tay.

Как полагают журналисты издания The Verge, фраза «Вы слишком торопитесь» является запрограмированной реакцией на ситуацию, когда Tay получает слишком много сообщений. Среди потока спама можно обнаружить обычные уведомления, однако их крайне мало.

Tay - совместный проект подразделения Microsoft Research и команды поисковой системы Bing. Он разработан для изучения коммуникаций между людьми в сети: бот способен обучаться при общении с живыми собеседниками, постепенно становясь более персонализированным.

Telegram Подписывайтесь на канал "SecurityLab" в Telegram, чтобы первыми узнавать о новостях и эксклюзивных материалах по информационной безопасности.