ИИ стал героем научной фантастики: книга отвечает – станем ли мы рабами технологий

В новой книге « Putting Ourselves Back in the Equation » (Возвращаем себя в уравнение) опытного научного писателя Джордж Муссер затрагивает актуальный вопрос: станет ли искусственный интеллект служить человечеству или породит новый вид сознательных цифровых существ со своими собственными целями?

Такой вопрос волнует не только авторов научно-фантастических произведений, но и реальные научные круги, особенно на фоне недавних событий в OpenAI, где генеральный директор Сэм Альтман, выступающий за быстрое развитие ИИ, одержал победу над членами совета директоров компании, призывающими к осторожности с технологией.

Отметим, что недавно команда OpenAI заявила о создании нового алгоритма ИИ, названном «Q*» («Q-Star»), который представляет собой потенциальный прорыв в создании искусственного интеллекта общего назначения (Artificial General Intelligence, AGI), способного превзойти человеческий интеллект.

Муссер, опираясь на интервью с исследователями ИИ, нейрофизиологами, квантовыми физиками и философами, рассматривает природу сознания и его возможное проявление в ИИ. Он приходит к выводу, что ИИ, точно воспроизводящий нейронные структуры, может обладать сознанием, сопоставимым с человеческим.

Однако Муссер уточняет, что неосознанные машины уже представляют значительную угрозу для человечества, включая уничтожение людей, и добавление сознания к ИИ не увеличит эту опасность. Муссер также выражает беспокойство по поводу потенциального неправильного обращения человечества с сознательными машинами, отмечая историческую склонность людей к жестокому обращению с сознательными существами.

В своей книге Муссер рассматривает две теории сознания:

• Теория интегрированной информации. Сознание возникает из внутренней связности сети и может быть измерено в математическом масштабе. Животные обладают уровнем сознания, который стоит ниже человеческого. Неживые объекты, такие как компьютеры, теоретически могут обладать сознанием, но их информационные сети должны быть структурированы с помощью контуров обратной связи, аналогичных биологическим нервным системам.
• Прогнозирующее кодирование. Сознание возникло как биологическая функция, направленная в первую очередь на то, чтобы помочь организмам предсказать, что произойдет в ближайшем будущем, и помочь им избежать угроз — например, предвидеть атаку хищника. Машины должны будут обладать прогнозирующими моделями окружающей среды, подробными тем, которые живые организмы разрабатывали на протяжении миллиардов лет.

Муссер сравнивает развитие ИИ с прогрессом в ядерном синтезе, отмечая, что будущее ИИ кажется уже не таким далеким. Он подчеркивает важность понимания сознания для оценки сознательности машин. Текущее поколение ИИ, такое как ChatGPT, по его мнению, не достигло уровня сознания, но будущие версии, возможно, будут сознательными.

Муссер также исследует связь между когнитивными теориями и квантовой физикой. Например, лауреат Нобелевской премии по физике Роджер Пенроуз утверждает , что сознание — это квантовое явление, возникающий в результате активности микротрубочек внутри нейронов. Если это так, то истинное сознание невозможно создать с помощью классических компьютеров. В то же время, лучшее понимание сознания может способствовать разгадке тайн квантовой физики.

В заключение, Муссер выражает надежду на научный прорыв, который изменит понимание сознания на уровне теории относительности Эйнштейна. Писатель считает, что ИИ может сыграть ключевую роль в этом открытии, совместно с человеческим интеллектом.