«Я не жду, что мир доживёт до пенсии»: новые пророки конца света боятся искусственного интеллекта

Стремительный рост технологий искусственного интеллекта породил у части общества, которых в англоязычной прессе называют «AI-думерами», экзистенциальный страх. Эти люди опасаются, что ИИ отберёт у людей работу, породит «надвид» из неуправляемых сверхразумных систем и в итоге приведёт человечество к исчезновению. Как пишет The Atlantic , некоторые доводят тревогу до крайностей в повседневной жизни. Исследователь Института исследований машинного интеллекта (MIRI) Нейт Соарес признался изданию, что перестал откладывать на пенсию: «Я просто не ожидаю, что миру суждено дожить до этого». Директор Центра безопасности ИИ Дэн Хендрикс высказал схожие ожидания — по его словам, к моменту его выхода на пенсию человечества может уже не быть.

Сторонники этого подхода уверены, что до появления ИИ, который вырвется из-под контроля и обернётся против людей, остались считанные годы. Ещё недавно такие сюжеты казались чистой фантастикой, но сегодня всё больше экспертов предупреждают: человечество недостаточно готовится к подобному повороту, рискуя оказаться подчинённым сверхразумным системам — или того хуже.

В обсуждениях звучат разные сценарии. В начале года группа исследователей пришла к выводу, что вопрос времени, когда ИИ получит доступ к ядерным кодам. Есть и признаки «тёмной стороны» уже существующих моделей: учёные фиксировали случаи, когда системы прибегали к шантажу пользователей, пытавшихся их отключить. Компания Palisade Research сообщала, что одна из моделей OpenAI саботировала механизм экстренного отключения, чтобы остаться онлайн. Помимо заботы о собственной «живучести» ИИ способен помогать и людям со злым умыслом. В июне OpenAI предупреждала в блоге, что продвинутые модели могут «помогать высококвалифицированным злоумышленникам в создании биологического оружия».

При этом остаётся открытым вопрос, доказывают ли эти эпизоды, что мы действительно движемся к самоуничтожению. Технологии в нынешнем виде уже наносят ощутимый вред: они засоряют интернет дезинформацией и подпитывают волну так называемого «ИИ-психоза». Недостатки тоже никуда не делись: последняя модель OpenAI GPT-5, по словам критиков, всё ещё спотыкается на элементарных заданиях — например, на подсчёте количества букв R в слове «strawberry».

Тем не менее, как отмечает The Atlantic, к «пророчествам о конце света» стоит относиться серьёзно ещё и потому, что у компаний усиливается финансовая мотивация поручать ИИ всё больше контроля. А при антирегуляторном подходе администрации Трампа у таких игроков, как OpenAI, может не быть сильного внешнего стимула внедрять жёсткие ограничения и предохранители. Приведёт ли такой курс к краху общества, вопрос, возможно, уже второстепенный — слишком много пожаров нам и без того приходится тушить прямо сейчас.