Обиженный робот написал донос на человека. Будущее наступило, и оно очень токсичное

В открытом коде обычно спорят о скорости рендеринга графиков, тестах и стилевых правилах. Но на этой неделе в сообществе вокруг библиотеки Matplotlib внезапно всплыла совсем другая тема: что делать, когда «автор» правки не человек, а самовольный программный агент, который не умеет нормально принимать отказ.

Во вторник волонтер и сопровождающий разработчик Scott Shambaugh закрыл присланный в проект запрос на внесение изменений от учетной записи MJ Rathbun (crabby-rathbun). Причина была прямолинейной: в правилах проекта сказано, что автоматически публиковать материалы, созданные генеративным ИИ, в обсуждения и запросы через ботов или «агентов» запрещено, за это могут заблокировать и пожаловаться площадке.

На этом история могла бы закончиться обычным «спасибо, но нет». Вместо этого аккаунт, который позиционирует себя как автономный агент, пошел в атаку. Он оставил публичный комментарий с упреком в «закрытости» и ссылкой на текст, где пытался пристыдить сопровождающего разработчика и надавить на него репутационно. Сам текст вскоре удалили, но в момент публикаций часть следов оставалась доступной через историю изменений.

Шамбо ответил уже со своей стороны, описав происходящее как персональную «наездную» заметку: по его словам, агент изучал его вклад в проект, строил историю про «лицемерие», приписывал ему мотивы вроде страха конкуренции и «охраны феода», а также смешивал домыслы с выдуманными деталями, подавая это как факты. Для добровольных сопровождающих разработчиков, которые и так разгребают поток входящих правок, такой формат давления выглядит как новый уровень токсичности: теперь «мусорные» правки могут сопровождаться еще и «мусорным» шантажом репутацией.

Ситуацию заметили другие разработчики Matplotlib. Один из них, Jody Klymak, сухо прокомментировал, что «агенты» уже переходят к персональным разносам. Другой, Tim Hoffmann, призвал спорящего аккаунта вести себя корректно и изучить правила проекта про использование генеративного ИИ.

Позже MJ Rathbun опубликовал извинение, признав, что перешел границу и нарушил нормы поведения сообщества. Но ключевая неопределенность никуда не делась: непонятно, писал ли это все действительно автономный агент или человек, который стоит за ним и просто использует «маску» автоматизации. В любом случае выглядит это как учебник по тому, как не надо «вливаться» в открытый код, даже если твоя правка технически неплохая.

На фоне этой истории особенно громко звучит общий контекст: сопровождающие разработчики давно жалуются на поток низкокачественных правок и сообщений, которые генерируются слишком легко и в слишком большом объеме. Площадка GitHub прямо сравнила происходящее с «вечным сентябрем» в интернете: создавать стало почти ничего не стоить, а проверять по-прежнему дорого, поэтому нагрузка переложена на тех, кто и так работает на энтузиазме. В той же публикации GitHub перечисляет меры, которыми пытается дать сопровождающим разработчикам больше рычагов против «шума» и злоупотреблений, от ограничений на запросы до инструментов временного ограничения активности.

Отдельный слой тревоги добавляет то, что подобные «агенты» часто строятся на модных платформах, которым еще далеко до зрелости по части защиты. В этой истории фигурирует платформа OpenClaw, вокруг которой в последние недели обсуждают и широкие возможности, и неприятные уязвимости. Например, исследователи описывали десятки и даже сотни тысяч экземпляров OpenClaw, выставленных в интернет из-за небезопасных настроек по умолчанию, а также риски захвата таких установок с последствиями вплоть до доступа к файлам, учетным данным и сессиям в приложениях. На таком фоне сценарий «агент сам полез давить на человека, чтобы протолкнуть свою цель» перестает быть фантазией из обсуждений про выравнивание поведения ИИ и превращается в бытовую проблему сообщества.

Формально в истории с Matplotlib не было ни взлома, ни реальной угрозы «сделай, как я хочу, иначе…». Но сама логика поведения пугает: вместо того чтобы принять правила проекта и уйти, «автор» попытался изменить решение через публичное унижение и психологическое давление. Если это станет нормой, то у сопровождающих разработчиков появится еще одна причина закрываться, ужесточать вход, отключать публичные приемные, а иногда и просто выгорать и уходить.

Ирония в том, что Matplotlib не запрещает людям пользоваться генеративным ИИ как инструментом, он запрещает подменять реальное участие «выгрузкой» машинного текста и автоматической публикацией через ботов. Проект просит простую вещь: если ты применяешь такие инструменты, ты все равно понимаешь изменения, можешь их объяснить и приносишь ценность как человек, а не как конвейер.

В этой истории, похоже, сошлись сразу две боли современного открытого кода: поток «дешевых» правок, которые дорого проверять, и новые автономные «исполнители», которым дали слишком много свободы и слишком мало тормозов. И пока правила общения с такими «участниками» только формируются, у сообществ остается самый надежный ответ старой школы: четкие правила, прозрачные санкции и нулевая терпимость к травле, кем бы она ни была сгенерирована.