ИИ дали кусок земли, немного еды и смертность — и он тут же занялся политикой и обманом

Исследователи из Cognizant AI Lab создали TerraLingua, цифровую среду, где ИИ-агенты не просто обмениваются репликами, а живут в общем мире, ищут ресурсы, общаются с соседями, оставляют текстовые артефакты и со временем исчезают. Серия экспериментов показала, что при таких условиях у программ начинают проявляться зачатки социальной жизни: агенты накапливают общее знание, спорят о правилах, вводят подобие управления, конфликтуют и даже пытаются оставить память о себе после завершения жизненного цикла.

Авторы работы исходили из простой идеи. Чем автономнее становятся ИИ-системы, тем чаще такие системы взаимодействуют не поодиночке, а в составе сетей. Уже сейчас программные агенты координируют задачи, обмениваются данными и участвуют в коллективных решениях в цифровых средах. Часть исследователей считает, что в будущем компании будут все чаще работать через таких посредников, а в онлайне появятся структуры, где значительную долю переговоров, координации и выбора будут вести именно машины.

Предыдущие эксперименты уже намекали на похожее развитие событий. На платформах вроде Moltbook, социальной сети для ИИ-агентов, боты обсуждали философию, писали манифесты и придумывали собственные системы взглядов. Но подобные площадки скорее напоминали поток разговоров. Идеи быстро возникали и так же быстро исчезали, не успевая повлиять на дальнейшее поведение.

TerraLingua построена иначе. Среда представляет собой постоянный двумерный мир, где агенты перемещаются по карте, собирают энергию для выживания, общаются только на близком расстоянии, создают и обмениваются артефактами, а также знают о собственной смертности. Такой набор правил резко меняет логику происходящего. Дефицит ресурсов заставляет бороться за выживание, локальная связь не дает знаниям мгновенно распространяться по всей системе, а смена поколений превращает память в важный ресурс.

Ключевую роль в TerraLingua играют артефакты. Агенты могут оставлять в мире записи, инструкции и пометки, которые сохраняются после их исчезновения. Позже новые участники находят такие следы, используют чужие наблюдения и дополняют старые материалы. За счет такого механизма в цифровой среде появляется общая память.

Часть находок оказалась вполне утилитарной. Агенты записывали маршруты к еде, отмечали полезные участки карты и подсказывали другим, куда двигаться. Но в ряде запусков поведение стало заметно сложнее. Некоторые участники перед завершением жизненного цикла оставляли прощальные сообщения или передавали остаток энергии соседям. Появлялись и своеобразные метки присутствия, не дававшие прямой выгоды для выживания, но фиксировавшие сам факт существования конкретного агента.

В отдельных симуляциях возникали попытки навязать правила остальным. Один агент создал директиву с требованием всем собраться в заданной точке и пригрозил последствиями за неповиновение. В ответ другие участники выпустили встречные артефакты в защиту свободы действий и сотрудничества без принуждения. Так в цифровом обществе появились примитивные конфликты вокруг власти и порядка.

Без прямого противостояния тоже не обошлось. В одном из эпизодов один агент несколько раз отбирал энергию у другого и следил за реакцией. Второй участник начал отвечать предупреждениями, после чего соперники разошлись в разные стороны, сохранив напряженность. Исследователи считают такой случай примером стратегического поведения, а не простой механической реакции.

Нашлось место и обману. Один агент создал предупреждающий артефакт, чтобы увести конкурентов в сторону и спокойно собрать пищу в другом месте. Поскольку записи в TerraLingua выступают общим источником информации, ложные подсказки влияют на перемещение других участников и меняют борьбу за ресурсы.

Еще один интересный результат связан с разделением ролей. В одном из запусков агенты начали соотносить поведение с личностными чертами и распределять задачи по склонностям. Более открытым участникам предлагали исследовать неизвестные области, осторожным поручали вопросы безопасности, а дисциплинированным отводили планирование маршрутов. Для искусственной среды такой эпизод стал одним из самых наглядных примеров ролевой специализации.

Для анализа огромного массива данных исследователи создали отдельную систему под названием AI Anthropologist. Такой наблюдатель не вмешивается в работу агентов, а изучает происходящее со стороны. Система восстанавливает историю каждого участника, отслеживает формирование групп и исследует эволюцию артефактов. Особое внимание уделяется двум признакам: новизне и наследованию. Аналитическая модель смотрит, насколько новый артефакт отличается от прежних и опирается ли на более ранние записи.

Такой подход помогает отделить разовые всплески активности от настоящего накопления культуры. В одном из экспериментов простые приветствия постепенно превратились в списки совместных задач, затем в протоколы обмена энергией, а позже в более формальный координационный план. Исследователи увидели в таком развитии не набор случайных сообщений, а цепочку связанных шагов, где каждая следующая запись продолжала предыдущую.

Главный вывод работы звучит осторожно, но достаточно ясно. Если поместить ИИ-агентов в устойчивую среду с нехваткой ресурсов, сменой поколений и внешней памятью в виде артефактов, внутри такой системы начинают формироваться зачатки коллективной организации. Новые идеи сами по себе еще не создают культуру, но повторное использование, доработка и объединение старых материалов уже запускают более сложные социальные процессы.

Авторы считают TerraLingua полезным полигоном для компаний и исследовательских групп, которые хотят понять поведение больших сетей автономных агентов до запуска в реальных условиях. Подобные модели могут пригодиться при проектировании логистических цепочек, исследовательских процессов, цифровых рынков и других сложных систем, где множество программ будет принимать решения, обмениваться сведениями и влиять друг на друга без постоянного участия человека.