А искусственный интеллект вообще умеет думать? Пять учёных разошлись во мнениях о том, можно ли считать современные нейросети по-настоящему разумными. Одни уверены, что машины уже обладают интеллектом, другие считают даже самые впечатляющие ответы ChatGPT лишь искусной имитацией мышления. Главная проблема оказалась неожиданной: учёные до сих пор не договорились, что вообще считать интеллектом.
Спор начался с простого вопроса: достаточно ли машине правильно отвечать на вопросы, решать математические задачи и писать программы, чтобы считаться разумной? Или настоящий интеллект требует чего-то большего, например понимания смысла, способности самостоятельно исследовать окружающий мир и учиться на собственном опыте? Пять специалистов по лингвистике, психологии и компьютерным наукам предложили совершенно разные ответы.
Лингвист Эмили Бендер придерживается самой скептической позиции. По её мнению, современные нейросети не демонстрируют убедительных признаков настоящего мышления, а языковые модели вряд ли смогут приблизиться к человеческому способу познания мира. Проблема кроется в самом принципе их работы. Программы анализируют огромные объёмы текстов, находят закономерности и учатся строить убедительные предложения, но умение обращаться со словами ещё не доказывает понимания их смысла.
Бендер обращает внимание на любопытную особенность человеческого восприятия. Когда мы читаем связный текст, мозг автоматически предполагает, что за словами стоят чьи-то мысли и намерения. С ChatGPT срабатывает тот же механизм. Нейросеть выдаёт осмысленный на вид ответ, а человек самостоятельно наделяет его смыслом, опираясь на собственные знания и жизненный опыт. Именно поэтому, считает Бендер, оценивать способности языковых моделей гораздо сложнее, чем кажется. Мы слишком привыкли считать речь признаком мыслящего собеседника.
Подобная путаница возникает и из-за самого языка, которым люди описывают работу компьютеров. Когда мы говорим, что нейросеть думает, понимает или учится, привычные слова невольно заставляют приписывать программе человеческие способности. Между тем языковая ловушка существует ещё с середины прошлого века, когда инженеры начали называть вычислительные процессы словами, прежде относившимися почти исключительно к человеку.
Специалист по компьютерным наукам Мелани Митчелл предлагает проверить возможности ИИ на обычной бытовой задаче. Представьте, что сломалась посудомоечная машина. ChatGPT подробно объяснит, как её починить, и посоветует нажать красную кнопку слева от дверцы. Но что делать, если красных кнопок две? Человек осмотрит прибор, сопоставит инструкцию с реальностью и, скорее всего, поймёт, какую кнопку имели в виду. Нейросеть способна составить правильную инструкцию, но ещё не факт, что сможет применить собственный совет в незнакомой обстановке.
Митчелл считает, что учёные слишком легко отделяют способность рассуждать от умения действовать в физическом мире. Человеческий интеллект развивался прежде всего для взаимодействия с окружающей средой и другими людьми. Например, если человек не умеет ремонтировать автомобиль, он может найти хорошего механика, объяснить неисправность и договориться о помощи. Для успеха нужны знания, понимание ситуации и умение общаться. По оценке Митчелл, современные системы ИИ пока заметно уступают людям в подобных социальных задачах.
Анима Анандкумар смотрит на проблему гораздо оптимистичнее. Исследовательница предлагает простое определение: интеллект позволяет учиться на полученных данных и приспосабливаться к окружающим условиям. Современные системы ИИ уже умеют и то и другое, поэтому отрицать наличие у машин интеллектуальных способностей она не видит причин. Причём оценивать нейросети только по сходству с человеком Анандкумар считает слишком узким подходом.
В качестве примера исследовательница приводит прогнозирование погоды. Созданная при её участии система на основе ИИ рассчитывает развитие атмосферных процессов в десятки тысяч раз быстрее традиционных методов. По словам Анандкумар, подобные модели уже способны превосходить классические прогнозы по точности и помогают заранее оценивать риск опасных погодных явлений. Нейросети также изучают взаимодействие атомов и химические реакции, помогая разрабатывать новые материалы и лекарства. Для исследовательницы способность находить сложные закономерности в природе тоже служит проявлением интеллекта, даже если машина мыслит совсем иначе, чем человек.
Психолог Элисон Гопник вообще сомневается, что существует единая способность под названием интеллект. Люди используют разные умения для решения разных задач, причём некоторые могут даже мешать друг другу. Например, стремление быстро добиться определённого результата отличается от желания исследовать что-то неизвестное без очевидной пользы.
Особенно хорошо разница заметна на маленьких детях. Ребёнок может часами бросать предметы, открывать коробки и повторять странные действия просто ради того, чтобы узнать, что произойдёт. Постепенно из множества опытов складывается собственное представление о мире. Большие нейросети учатся иначе: разработчики дают им огромные массивы текстов и изображений, созданных людьми, а программы находят закономерности и используют их для новых ответов. Гопник считает, что способность детей самостоятельно исследовать неизвестное пока остаётся далеко за пределами возможностей современных моделей.
Исследовательница обращает внимание и на ещё одну необычную форму интеллекта: заботу о других. Маленькие дети могут свободно экспериментировать именно потому, что взрослые обеспечивают им безопасность, помогают справляться с трудностями и создают условия для обучения. Гопник полагает, что способность заботиться требует сложных умственных навыков, которые привычные тесты интеллекта практически не учитывают.
Бенджамин Берген занимает промежуточную позицию и предлагает вспомнить знаменитый пример с лошадью, умеющей считать. Представьте животное, которое отвечает на арифметические вопросы нужным количеством ударов копыта. Кажется, лошадь освоила математику. Но при внимательной проверке выясняется, что животное просто замечает едва уловимые движения дрессировщика и останавливается в нужный момент.
Берген подчёркивает, что лошадь действительно продемонстрировала способность учиться, замечать человеческие сигналы и правильно реагировать на происходящее. Однако считать животное математиком было бы ошибкой. С нейросетями возникает похожая трудность. ChatGPT способен дать правильный ответ на сложный вопрос, но сам результат ещё не объясняет, как программа пришла к решению. Возможно, модель действительно смогла обобщить знания и выполнить рассуждение, а возможно, необходимые подсказки уже содержались в обучающих материалах.
По мнению Бергена, современные системы ИИ уже показывают признаки интеллекта по многим существующим определениям. Программы учатся на данных, справляются с новыми задачами и иногда демонстрируют способности, напоминающие логическое мышление. Но для оценки глубины понимания недостаточно подсчитать правильные ответы. Нужно разобраться, какие процессы помогают машине получать результат.
В итоге спор пяти учёных обнажил парадокс, который становится всё заметнее по мере развития нейросетей. Машины уже решают задачи, прежде доступные только человеку, однако специалисты по-прежнему расходятся во мнениях, что именно доказывают подобные достижения. Пока одни исследователи ищут у программ признаки человеческого мышления, другие предлагают признать интеллектом совсем иной набор способностей. Возможно, главный вопрос будущего ИИ заключается даже не в том, когда машины научатся думать, а в том, сумеем ли мы договориться, что означает само слово «думать».