Учёные внедрили ИИ в Reddit ради науки, а теперь им грозит суд от самой платформы

Reddit рассматривает возможность подачи иска против исследователей из Цюрихского университета, которые провели тайный эксперимент с участием нейросетей в популярном сабреддите r/changemyview. Об этом сообщил главный юрисконсульт платформы Бен Ли, назвав действия учёных «неэтичными и недопустимыми».

Как выяснилось, исследователи без уведомления администрации Reddit и модераторов сабреддита внедрили десятки чат-ботов, которые вели дискуссии с пользователями на спорные темы. При этом боты выдавали себя за представителей уязвимых групп — например, за жертв сексуального насилия, психологов, работающих с травмами, или чернокожих, выступающих против движения Black Lives Matter. Всё это происходило без согласия пользователей.

Более того, с помощью другой модели ИИ исследователи анализировали историю постов каждого участника дискуссий, чтобы попытаться определить их возраст, пол, этническую принадлежность, местоположение и политические взгляды. Полученные данные использовались для повышения «убедительности» ботов. Один из промптов, опубликованный в черновике исследования, утверждал, будто пользователи дали согласие на использование своих данных, хотя на практике никто про эксперимент не знал.

Юридический отдел Reddit утверждает, что компания узнала о произошедшем только после завершения эксперимента. Все аккаунты, связанные с исследованием, уже заблокированы, а сама платформа усиливает механизмы для выявления неаутентичного контента. По словам Ли, действия исследователей нарушили не только пользовательское соглашение Reddit, но и базовые нормы прав человека и научной этики.

В Цюрихском университете подтвердили факт проведения эксперимента, но заявили, что его результаты опубликованы не будут. Представители университета объяснили, что этический комитет заранее указал на рискованность проекта и рекомендовал изменить подход, а также максимально информировать участников и строго соблюдать правила платформ. Однако подчёркивается, что рекомендации комитета не имеют юридической силы, и полная ответственность лежит на самих учёных.

После инцидента комитет намерен ужесточить процесс оценки будущих исследований и добиваться предварительного согласования с онлайн-сообществами. Сам университет начал внутреннюю проверку и пообещал пересмотреть подход к этической экспертизе подобных проектов.

Имена исследователей до сих пор не раскрыты. Черновик научной работы был опубликован без авторов, а связь с общественностью осуществлялась через анонимный email. Даже кафедра, на которой работали авторы, остаётся неизвестной. Модераторы сабреддита отказались раскрывать личности участников, ссылаясь на вопросы конфиденциальности.