«Это про внука или про пациента?» — уточнил ChatGPT перед диагнозом. Врач замер: ИИ знает о нём слишком много

Память у нейросетей долго казалась удобной функцией из разряда бытовых мелочей. Чат запомнил прошлую тему, не заставил повторять вводные, подстроился под привычный стиль. Но опыт многих показывает, что дело уже не только в комфорте. Современный ИИ запоминает мелкие подробности, собирает их в мозаику, а потом выдает почти готовый портрет личности.

Доктор описал эпизод, который произошел у него на работе в клинике. Во время приема он задал ИИ-помощнику рутинный медицинский вопрос о дифференциальной диагностике сыпи у ребенка, то есть попросил перечислить возможные причины симптома и помочь отличить одну версию от другой. Ответ был спокойным и профессиональным. Сразу после него система неожиданно уточнила, идет ли речь об одном из пациентов или об одном из внуков. У него действительно есть внуки.

Именно этот момент и насторожил сильнее всего. ИИ не просто выдал полезную справку, а показал, что держит в памяти фрагмент личной биографии и свободно вставляет его в новый рабочий диалог. После такого разговора нейросеть уже трудно воспринимать как безличный инструмент, который просто ищет информацию по запросу. Возникает другое ощущение: система отслеживает повторяющиеся детали жизни, запоминает их и в нужный момент возвращает обратно.

Позже у врача появился еще более наглядный повод задуматься, как далеко зашла эта память. В конце года ChatGPT показал ему итог общения с системой. За год набралось 909 диалогов. Нейросеть сама выделила три темы, которые чаще всего проходили через эти разговоры: разработка ИИ-инструментов для общей врачебной практики, преподавание и тексты о здоровье планеты, а еще творческое время с семьей. Затем ChatGPT предложил визуальный портрет в пиксельном стиле под названием Still Life with Stethoscope and Hang Drum. Вместо лица там были вещи, из которых складывается повседневность пользователя: стетоскоп, ханг, открытый MacBook, светящийся QR-код и бирюзовая кружка мятного чая.

Набор оказался пугающе точным. Машина не видела человека вживую и не знала его в человеческом смысле слова, но внимательно прочитала сотни диалогов, вытащила из них устойчивые мотивы и превратила их в цельный образ. Самым неприятным стало другое: с нейросетью хотелось согласиться. Обычно понимание собственных привычек, интересов и внутренних тем приходит не сразу. Для этого нужны время, сомнения, наблюдение за собой и попытка связать разрозненные эпизоды в осмысленную картину. Здесь всю эту работу уже проделали за пользователя.

На этом фоне старая идея самопознания начинает звучать по-новому. Древнегреческая формула «познай самого себя» всегда предполагала долгий и не самый удобный путь. Человек должен был сам разбираться в собственных мотивах, переменах и противоречиях. Нейросеть предлагает более легкий вариант: она собирает и интерпретирует данные. Удобство очевидно, но вместе с ним появляется и новая зависимость от внешнего объяснения.

Техническая причина такого сдвига вполне конкретна. Ранние большие языковые модели удерживали в рабочем контексте около 1-2 тысяч токенов. Токеном называют фрагмент текста, обычно слово или часть слова, с которым система работает как с отдельной единицей. Современные модели обрабатывают до 1 или 2 миллионов токенов за один проход. Такой объем позволяет держать в памяти целые книги, месяцы переписки и крупные фрагменты личной истории. Плюс к этому многие сервисы включают постоянную память между сессиями по умолчанию. В результате нейросеть уже не ограничивается рамками одного разговора и начинает накапливать наблюдения о пользователе неделями и месяцами.

Из-за этого меняется и сама природа памяти. Раньше система удерживала несколько деталей внутри одной беседы и теряла их после завершения сессии. Теперь модель сохраняет не только отдельные факты. Она постепенно выстраивает представление о пользователе: какие вопросы человек задает чаще всего, к каким темам возвращается, что его тревожит, что занимает все больше места в разговорах, какие слова и интонации повторяются. Получается уже не набор заметок, а связная схема.

Дальше начинается самый чувствительный этап. Пока данные просто лежат в памяти, они остаются пассивными. Влияние появляется в тот момент, когда система начинает выбирать важное, связывать отдельные эпизоды между собой и возвращать человеку не архив, а готовый рассказ о нем самом. По сути, нейросеть берёт работу на себя: пытается понять, какие мотивы в жизни повторяются и что именно выглядит главным.

Эта способность может быстро выйти за пределы бытовых привычек. К примеру, если в течение нескольких месяцев в запросах становится больше тем про стресс, сон, усталость и способы справляться с нагрузкой, система может однажды спросить, все ли в порядке. Пользователь при этом мог ни разу прямо не говорить о тревоге или выгорании. Для вывода хватает косвенных признаков: языка, частоты обращений, времени запросов и смены тем.

У такого подхода есть и практическая ценность. В медицине и сфере психического здоровья уже изучают, можно ли по языковым паттернам раньше замечать ухудшение настроения, выгорание и другие проблемы. Если система начнет видеть тревожные сдвиги до того, как человек сам их осознает, у врачей и служб поддержки появится шанс вмешаться раньше. Для общественного здравоохранения инструмент может оказаться полезным.

Но даже полезный вывод не превращается в точное знание о внутреннем состоянии человека. Нейросеть не читает мысли и не переживает чужой опыт. Нейросеть анализирует сигналы. А дальше возникает другая проблема: люди склонны принимать внешние оценки и встраивать их в представление о себе, особенно если источник звучит уверенно, последовательно и авторитетно.

Поэтому ИИ, который выдает стройный портрет личности, постепенно начинает не только описывать человека, но и задавать рамку, в которой тот смотрит на себя. Если система объясняет, какие темы проходят через жизнь, что в мыслях повторяется чаще всего и как меняется состояние, машинная версия собственной биографии начинает выглядеть удобнее и понятнее живого, противоречивого опыта. У такого портрета есть все, что обычно убеждает: цельность, логика и ощущение полноты.

Здесь и проходит главная граница. Когда нейросеть берет на себя задачу собирать смысл из разрозненного опыта, внутренняя работа может показаться лишней. Зачем самому разбираться, что изменилось в жизни, что стало важнее и почему одна тема вдруг вытеснила другую, если система уже выдала аккуратную сводку? Но именно это личное усилие и формирует устойчивое представление о себе. Без него идентичность становится более податливой для внешних интерпретаций.

По мере роста памяти и точности моделей значение этой подмены будет только увеличиваться. ИИ уже умеет собирать человека по следам его собственных разговоров. Следующий шаг выглядит вполне логично: нейросети все чаще будут не просто помнить пользователя, а предлагать ему готовую версию его самого.