Насекомые, языковые модели и «алгоритм сознания». Что общего между крабом и нейросетью — и почему это важно для этики

Возможно, на первый взгляд пчела, собирающая нектар в саду, и окно браузера с открытым ChatGPT кажутся совершенно не связанными вещами. Но недавние исследования все серьезнее рассматривают возможность того, что и то и другое может обладать сознанием.

Существует много разных подходов к изучению сознания. Один из самых распространенных - оценивать, как ведет себя животное или искусственный интеллект.

Но две новые научные работы, посвященные возможности сознания у животных и ИИ, предлагают новые теории о том, как его проверять, занимая промежуточную позицию между громкими сенсациями и автоматическим скепсисом по поводу того, действительно ли только люди обладают сознанием.

Жаркие споры

Вопросы о природе сознания уже давно вызывают споры.

Отчасти это связано с тем, что сознательные существа могут иметь особое моральное значение по сравнению с тем, что мы считаем "бессознательным". Расширение круга того, кого мы признаем способным к сознательному опыту, означает расширение наших этических горизонтов. И даже если мы не можем быть уверены, что существо действительно сознает происходящее, мы можем предпочесть осторожный подход и вести себя так, будто оно сознательно - то, что философ Джонатан Бёрч называет принципом предосторожности применительно к чувствующим существам.

В последние годы тенденция однозначно сместилась в сторону расширения этого круга.

Например, в апреле 2024 года группа из 40 ученых на конференции в Нью-Йорке предложила Нью-йоркскую декларацию о сознании животных. Документ, который затем подписали более 500 ученых и философов, утверждает, что сознание реалистично предполагать у всех позвоночных, включая рептилий, амфибий и рыб, а также у многих беспозвоночных, в том числе у головоногих, ракообразных и насекомых.

Параллельно с этим стремительный рост больших языковых моделей, таких как ChatGPT, сделал вполне серьезным вопрос о том, могут ли машины быть сознательными.

Еще пять лет назад казалось, что почти безошибочный тест на наличие сознания прост: попробуйте поговорить с системой. Философ Сьюзан Шнайдер предлагала, что если бы у нас был ИИ, способный убедительно рассуждать о метафизике сознания, его вполне можно было бы считать сознательным.

Если следовать этим критериям, сегодня нас бы окружали сознательные машины. Многие идут дальше и применяют к ИИ тот же принцип предосторожности - бурно развивающаяся область благополучия ИИ пытается понять, в каких случаях и в какой момент мы обязаны учитывать интересы машин.

Однако все эти аргументы во многом опираются на внешнее поведение. А оно может быть обманчивым. Для вопроса о сознании важно не только то, что именно система делает, но и как именно она это делает.

Как устроен ИИ изнутри

Новая статья в журнале Trends in Cognitive Sciences, которую в соавторстве написал Колин Клейн и которая опирается на предыдущую работу, предлагает смотреть не на поведение ИИ, а на его внутреннее устройство.

Авторы опираются на традицию когнитивных наук, чтобы выделить правдоподобный список индикаторов сознания, основанных на структуре обработки информации. Это позволяет составить полезный перечень признаков сознания, не выбирая заранее, какая из существующих когнитивных теорий сознания считается правильной.

Часть индикаторов, например необходимость разрешать конфликты между конкурирующими целями с учетом контекста, встречается во многих теориях. Большинство других признаков, таких как наличие развитых контуров обратной связи, требуется только одной теорией, но считается показательно важным и в других подходах.

Важно, что все полезные индикаторы носят структурный характер. Они описывают, как именно мозги и компьютеры обрабатывают и объединяют информацию.

Вывод таков: ни одна из существующих систем ИИ, включая ChatGPT, сейчас не является сознательной. Видимость сознания в больших языковых моделях достигается способом, который недостаточно похож на те процессы, с которыми мы связываем сознание у людей, чтобы приписывать машинам подлинные сознательные состояния.

При этом никаких принципиальных ограничений на появление сознательных ИИ систем нет - возможно, ими станут модели с архитектурой, радикально отличающейся от сегодняшних.