ИИ уже думает за нас. Скоро — строит себя сам. Человечество — уже просто баг в его логике

Руководитель OpenAI Сэм Альтман опубликовал текст о будущем цифрового разума, в котором заявил, что человечество уже перешагнуло «точку невозврата» в развитии искусственного интеллекта. По его словам, тот самый маловероятный участок пути, на котором требовались уникальные научные открытия, уже позади. Теперь движение стало почти механическим — и ускоряется с каждым месяцем. Он называет это началом технологического взлёта, который ощущается менее странным, чем ожидалось, но с куда более серьёзными последствиями.

Альтман утверждает, что такие системы, как GPT-4 и o3, уже превосходят человека во многих когнитивных аспектах и способны резко увеличить продуктивность тех, кто с ними взаимодействует. По его данным, некоторые учёные сегодня становятся в два или даже три раза эффективнее благодаря ИИ, и именно это он считает самым важным аспектом: возможность использовать ИИ для ускорения разработки ещё более продвинутого ИИ. Так начинается то, что он называет «личиночной формой рекурсивного самосовершенствования» — пока не самостоятельное обновление кода, но уже нечто близкое по эффекту.

Прогнозы, которые он озвучивает, выглядят смело, но уже не фантастично. В 2025 году появились интеллектуальные агенты, способные к полноценной когнитивной работе. В 2026 году, по его оценке, появятся системы, умеющие делать настоящие научные открытия. А в 2027-м — физические роботы, выполняющие реальные задачи в материальном мире. Он рассматривает сценарий, в котором первый миллион таких роботов будет создан вручную, но после этого они смогут полностью взять на себя весь производственный цикл — от добычи полезных ископаемых до строительства новых дата-центров и фабрик по выпуску чипов. Дата-центры, строящие другие дата-центры, — это не гипербола, а возможная реальность ближайших лет.

В этом сценарии, по его словам, стоимость интеллекта будет стремиться к стоимости электроэнергии. Один запрос к ChatGPT в среднем потребляет 0,34 ватт-часа и 0,000085 галлона воды — это примерно одна пятнадцатая чайной ложки. Альтман считает, что при должной автоматизации ресурсов, сам интеллект может стать «слишком дешёвым, чтобы его измерять». Такой эффект потенциально полностью снимает исторические ограничения, наложенные дефицитом как интеллекта, так и энергии — двух фундаментальных ресурсов, тормозивших прогресс.

Однако он подчёркивает, что наряду с преимуществами это создаёт огромные риски. Прежде всего — риск неправильного выравнивания систем с интересами человечества. В качестве примера он приводит алгоритмы социальных сетей, которые прекрасно понимают краткосрочные предпочтения людей, но вредят их долгосрочному благополучию. По его мнению, задача выравнивания — то есть способность ИИ действовать в соответствии с коллективными ценностями человечества — является важнейшей перед началом масштабного распространения суперинтеллекта.

Альтман также отмечает, что экономическое давление уже запустило петлю ускорения: ценность, создаваемая ИИ, стимулирует строительство всё большего количества инфраструктуры. В будущем, по его словам, роботы будут создавать не только код, но и себя — как в прямом, так и в инфраструктурном смысле. Системы, которые сегодня работают в дата-центрах, завтра могут управлять их строительством. Это ведёт к появлению нового производственного цикла, в котором масштабируемость ограничивается только идеями.

Он акцентирует внимание на том, что общество адаптируется к изменениям удивительно быстро. Мы перестаём удивляться даже чудесам: сначала поражаемся, что ИИ умеет писать абзац, потом ожидаем от него роман; сначала он ставит диагноз, потом ждём от него лекарства; сначала он пишет скрипт, потом хотим, чтобы он создал бизнес. По его словам, так и происходит сингулярность — не внезапным взрывом, а постепенным превращением невероятного в рутину.

Социальные последствия, по его мнению, будут не менее важны. Масса профессий исчезнет, но мир станет богаче настолько, что смогут обсуждаться новые формы социального контракта. Возможно, они будут вводиться не одномоментно, а шаг за шагом. Однако, оглядываясь назад через несколько десятилетий, люди поймут, что произошли кардинальные перемены. Как фермер из прошлого мог бы счесть современные профессии «фальшивыми», так и мы будем считать фальшивыми профессии 2100 года. При этом они, скорее всего, будут казаться людям будущего важными и наполненными смыслом.

Отдельно Альтман останавливается на важности идей. Ранее в стартап-индустрии высмеивали тех, кто имел только идею, но не мог её реализовать. Сегодня, по мнению Альтмана, такие люди получат реальную силу — потому что реализовывать идеи станет легко. Ограничивающим фактором станет не исполнение, а оригинальность.

Альтман призывает начать глобальную дискуссию о допустимых границах использования ИИ, о том, как определить «коллективное выравнивание» — что человечество на самом деле хочет получить от суперинтеллекта. При этом важно обеспечить доступ к нему не только избранным корпорациям или государствам. Он считает, что только при широкой и равномерной доступности ИИ принесёт максимум пользы.

По его словам, OpenAI остаётся прежде всего исследовательской компанией, занимающейся суперразумом. Но теперь направление ясно, темнота рассеивается, и если удастся пройти этот путь без катастроф, можно будет говорить о самой масштабной трансформации в истории цивилизации.