Вечная память или цифровое проклятие? Воскрешая умерших, ИИ наносит психологический вред

Эксперты из Кембриджского университета выразили обеспокоенность в связи с развитием технологий искусственного интеллекта, которые позволяют вести текстовые и голосовые беседы с умершими. По мнению исследователей, такие технологии, получившие название «грифботы» или «мертвец-боты», могут нанести психологический вред и создать иллюзию присутствия умерших, что названо «цифровым преследованием».

В статье, опубликованной в журнале Philosophy and Technology , говорится о потенциальной опасности злоупотребления такими ИИ-чатботами, включая скрытую рекламу товаров и услуг или создание беспокойства среди детей утверждениями о том, что умерший родитель все еще «с ними». К тому же, интерактивное взаимодействие с «мертвец-ботами» может стать «подавляющим эмоциональным бременем».

Исследователи из Центра будущего разума в Кембридже предложили разработать особые протоколы дизайна для таких платформ, чтобы предотвратить использование «мертвец-ботов» в непочтительных целях, например, для рекламы или активности в социальных сетях. Они также настаивают на необходимости получения согласия от лиц, данные которых используются для создания ботов, до их смерти.

Одна из предложенных сценариев в статье — компания «Paren’t», которая создает бота для помощи восьмилетнему ребенку в преодолении горя после смерти матери. Начальный успех терапевтического бота со временем приводит к путанице у ребенка из-за неоднозначных ответов ИИ.

Томаш Холланек, соавтор исследования, предложил ввести возрастные ограничения для использования «мертвец-ботов» и обеспечить «значимую прозрачность» для того, чтобы пользователи всегда осознавали, что их собеседник — искусственный интеллект. Это могло бы включать в себя предупреждения, аналогичные тем, что предупреждают о возможных приступах при просмотре контента.

В заключение исследователи подчеркивают важность разработки протоколов для возможности отказа от использования «мертвец-ботов», что позволило бы пользователям прекратить взаимодействие с ними, обеспечив эмоциональное завершение. Они призывают команды разработчиков заранее думать о том, как снизить социальные и психологические риски «цифрового бессмертия», поскольку технологии уже здесь.