Рекомендательные алгоритмы Youtube направляют зрителей на фейки и запрещенное видео

Рекомендательные алгоритмы Youtube направляют зрителей на фейки и запрещенное видео

Вероятность того, что доброволец пометит ролик как неприятный, была у рекомендованных алгоритмом материалов на 40% выше, чем у тех видео, которые они находили через поиск.

image
Некоммерческая компания Mozilla попросила пользователей своего веб-браузера Firefox установить расширение для браузера под названием RegretsReporter, которое отслеживает просмотренные ими видео на YouTube, и спросила, сожалеют ли они о просмотре каждого из роликов.

В сентябре 2020 года YouTube запустил расширение, которое позволяет зрителям сообщать о роликах, нарушающих правила или возмутивших их. Mozilla Foundation попросила 30 тысяч добровольцев установить расширение в свои браузеры. Расширение «запоминало» путь к тому или иному ролику, фиксируя контент, за которым следовала рекомендация алгоритма.

Mozilla провела исследования с помощью RegretsReporter - расширение браузера с открытым кодом. Люди добровольно передавали свои данные и предоставили исследователям доступ к пулу сохранившихся рекомендательных данных YouTube.

Как выяснилось, люди из неанглоязычных стран чаще сталкиваются с оскорбительным контентом в YouTube, а в рекомендациях появляются видео с языком ненависти, жестокости и мошенничеством. Исследование выявило неожиданную деталь: оказалось, что «в 43,3% случаев рекомендация была совершенно не связана с предыдущими видео, которые смотрел доброволец».

Волонтеры жаловались модераторам платформы на видеоролики и из-за распространения паники по коронавируса, и из-за политической дезинформацию, и из-за неподходящих "детские" мультфильмы.

Более 71 процент всех видеозаписей, на которые пожаловались добровольцы, были активно рекомендованы собственным алгоритмом YouTube. Сейчас почти 200 таких видеороликов были изъяты из платформы, в том числе и несколько таких, которые YouTube считал нарушителями собственной политики. Эти видео были общее количество просмотров 160000000, говорится в отчете Mozilla.



Больше пяти не собираться: роботы будут следить за улицами Сингапура, хакеры атаковали проект Jenkins, во Франции арестовали экологов, данные которых раскрыл ProtonMail, а россиян беспокоит идея «социальных рейтингов». Смотрите 31-й выпуск наших новостей.