Некроманты из Кремниевой долины: почему Grammarly решила, что мертвые ученые — лучшие советчики

Grammarly оказалась в центре скандала после того, как пользователи нашли в сервисе функцию, которая предлагает проверять научные тексты с помощью ИИ-версий реальных профессоров. Проблема в том, что среди таких «экспертов» нашлись не только живые ученые, но и люди, которых уже нет в живых.

Шум подняла медиевист Верена Кребс, профессор Рурского университета в Бохуме. В воскресенье Кребс показала скриншот инструмента Expert Review, где среди доступных экспертов для проверки статьи значился историк Дэвид Абулафия. Ситуация быстро вызвала новую волну возмущения, потому что Абулафия умер в январе.

После публикации скриншота академическое сообщество отреагировало резко. Доцент Бирмингемского университета Ванесса Хегги написала в LinkedIn, что Grammarly уже предлагает «экспертную проверку» работ силами живых и умерших ученых. По словам Хегги, компания без явного согласия создает небольшие языковые модели на основе собранных текстов исследователей, а затем использует их имена и научную репутацию. Историк Клэр Э. Обен, ведущая подкаста This Guy Sucked, назвала происходящее одним из самых жутких явлений, которые ей приходилось видеть в академической среде.

Сама Grammarly описывает Expert Review как ИИ-агента, который помогает автору соответствовать требованиям конкретной дисциплины и проекта, опираясь на выводы профильных специалистов и надежные публикации. Функция входит в набор новых ИИ-инструментов, который компания выпустила прошлым летом. Пользователь открывает документ в платформе Grammarly, выбирает Expert Review, указывает нужного эксперта и получает замечания, советы и даже переписанный вариант текста на основе предложенных правок.

Именно такой подход и вызвал главную претензию. Критики считают, что сервис фактически имитирует реальных ученых и выдает сгенерированные замечания от их имени. Для многих исследователей проблема не ограничивается вопросами этики, потому что рядом встают и вопросы авторского права, ведь подобные модели обычно строят на чужих текстах. Появление среди «экспертов» умерших профессоров только усилило раздражение.

Доцент CUNY Кэтлин Алвес назвала функцию «буквально цифровой некромантией». Доцент Университета Британской Колумбии Хишам Зерриффи подхватил тот же мотив и заметил, что подобная практика неправильна независимо от того, жив человек или умер.

На одном Expert Review история не заканчивается. У Grammarly есть и другой инструмент, AI grader agent, который помогает оценивать домашние задания студентов. Для персонализированной обратной связи сервис, как утверждает компания, использует публично доступную информацию о преподавателях и профессорах. На фоне скандала вокруг «цифровых двойников» такой подход тоже наверняка привлечет к себе еще больше внимания.