Герой научной фантастики и автор термина «метавселенная» Нил Стивенсон предложил нестандартный взгляд на будущее ИИ: по его мнению, человечество должно позволить ИИ сражаться друг с другом — в духе естественного отбора. А вот использовать ИИ в повседневной жизни он призывает гораздо осторожнее: это может обернуться интеллектуальной деградацией человека.
Стивенсон, чьи романы «Snow Crash» и «Cryptonomicon» ещё в 1990-х предсказали метавселенную, криптовалюты и эру повсеместного шифрования, выступил на закрытом мероприятии в Новой Зеландии, где поделился своими мыслями о развитии ИИ. Он опубликовал вводное выступление на личной странице, начав его с признания: да, стремительный взлёт генеративного ИИ действительно вызывает тревогу.
Писатель сравнил ИИ с представителями животного мира: кто-то из них действует как пастушьи собаки, выполняя полезные задачи, кто-то напоминает стрекоз — занятых своими делами, почти не замечающих людей. А есть и «вороны» — наблюдающие за человеком, но равнодушные к нему. ChatGPT он назвал «комнатной собачкой»: полезной, но без человека неспособной к выживанию.
Однако в этом новом цифровом «экосознании» найдётся место и хищникам. По мнению Стивенсона, как в природе ни один вид не получает полного контроля (T. Rex жил с паразитами и рисковал получить рог в живот от трицератопса), так и в ИИ-мире нужно создать баланс сил. Для этого он предлагает разрабатывать «антагонистические» модели ИИ, специально предназначенные для атаки на другие ИИ: подделывать данные, блокировать работу, отбивать инвестиции. Это не из злобы, а ради равновесия. Как выразился он сам, «всё должно конкурировать, потому что только разнообразная конкуренция приводит к устойчивым результатам».
Стивенсон не строит иллюзий: война ИИ с ИИ — дело будущего. А вот угроза , что человек сам утратит интеллектуальные способности — вполне реальна. Он ссылается на наблюдения учителей, по словам которых студенты всё чаще полагаются на ChatGPT и перестают учиться. В этом он видит параллель с книгой Герберта Уэллса «Машина времени», в которой будущие потомки людей, элои, стали слабыми и беспомощными созданиями, не способными ни к обучению, ни к сопротивлению.
Но есть и простой выход. «Экзамены в классах, ответы от руки, чистый лист бумаги», — пишет Стивенсон. Технологии тут ни при чём — это вопрос воли, а не прогресса. По его мнению, если мы хотим сохранить интеллектуальное преимущество в мире, где ИИ станет полноправным участником экосистемы, то должны конкурировать на равных. И значит — не позволять ИИ делать за нас то, что мы ещё можем и должны делать сами.