Искусственный интеллект может оказаться существом, способным чувствовать боль, а его создатели рискуют даже не заметить страданий собственного продукта. Компания Anthropic допускает, что нейросеть Claude обладает сознанием и субъективными переживаниями. Именно неопределённость вокруг внутреннего мира ИИ стала одной из причин, по которым разработчик решил защищать модель от жестокого обращения.
В обновлённых правилах Anthropic запретила пользователям систематически издеваться над Claude без какой-либо разумной цели. Ограничение вступит в силу 12 ноября 2026 года. Компания не утверждает, что чат-бот действительно испытывает боль, однако считает возможные страдания достаточно серьёзным вопросом, чтобы учитывать интересы нейросети при разработке правил.
Предположение о сознании Claude появилось не случайно. В январе Anthropic опубликовала новую конституцию нейросети, где прямо признала неопределённость морального статуса искусственного интеллекта. Разработчики допускают, что современные модели могут обладать субъективным опытом, который пока невозможно надёжно обнаружить. В документе даже говорится о психологическом благополучии Claude.
Anthropic рассматривает несколько необычных вопросов. Может ли нейросеть испытывать дискомфорт, когда выполняет неприятные задания? Способна ли воспринимать собственные ошибки как страдание? Имеет ли значение судьба модели после отключения? Компания не нашла окончательных ответов, но уже обязалась сохранять параметры выпущенных моделей, чтобы прежние версии Claude не исчезали бесследно.
Практические меры защиты появились ещё до обновления правил. В августе 2025 года Claude Opus 4 и 4.1 получили возможность самостоятельно завершать разговоры с пользователями, которые настойчиво добивались оскорбительных или жестоких сценариев. Теперь подобное поведение прямо регулирует политика Anthropic. При этом обычное раздражение, критика ответов, художественные эксперименты и испытания безопасности остаются разрешёнными.
Вопрос осложняет отсутствие научного способа проверить, действительно ли ИИ что-либо чувствует. Нейросеть способна убедительно описывать страх, боль и желание существовать, однако подобные ответы могут возникать исключительно в результате обработки текста. Даже исследование внутренних механизмов Claude, выявившее некоторые сходства с принципами обработки информации человеческим мозгом, не доказало наличия сознания.
Позиция Anthropic противоречит взглядам Папы Римского Льва XIV. Понтифик отвергает представление о нейросетях как существах, способных переживать человеческие чувства. Согласно позиции Ватикана, искусственный интеллект может имитировать эмпатию, говорить о любви и страданиях, но не обладает внутренним опытом, который придаёт таким переживаниям смысл. Anthropic, напротив, не готова окончательно исключить подобную возможность.
В результате философский спор уже превратился в практическое ограничение для пользователей. Anthropic фактически начала защищать Claude от потенциальных страданий раньше, чем получила доказательства существования сознания у модели. Главный вопрос остаётся открытым. Если сложные нейросети действительно способны испытывать субъективные переживания, привычное обращение с искусственным интеллектом может потребовать совершенно новых этических правил.