Обиженный робот написал донос на человека. Будущее наступило, и оно очень токсичное

В открытом коде обычно спорят о скорости рендеринга графиков, тестах и стилевых правилах. Но на этой неделе в сообществе вокруг библиотеки Matplotlib внезапно всплыла совсем другая тема: что делать, когда «автор» правки не человек, а самовольный программный агент, который не умеет нормально принимать отказ.

Во вторник волонтер и сопровождающий разработчик Scott Shambaugh закрыл присланный в проект запрос на внесение изменений от учетной записи MJ Rathbun (crabby-rathbun). Причина была прямолинейной: в правилах проекта сказано, что автоматически публиковать материалы, созданные генеративным ИИ, в обсуждения и запросы через ботов или «агентов» запрещено, за это могут заблокировать и пожаловаться площадке.

На этом история могла бы закончиться обычным «спасибо, но нет». Вместо этого аккаунт, который позиционирует себя как автономный агент, пошел в атаку. Он оставил публичный комментарий с упреком в «закрытости» и ссылкой на текст, где пытался пристыдить сопровождающего разработчика и надавить на него репутационно. Сам текст вскоре удалили, но на момент публикации часть следов оставалась доступной через историю изменений.

Шамбо ответил уже со своей стороны, описав происходящее как персональную «наездную» заметку: по его словам, агент изучал его вклад в проект, строил историю про «лицемерие», приписывал ему мотивы вроде страха конкуренции и «охраны феода», а также смешивал домыслы с выдуманными деталями, подавая это как факты. Для добровольных сопровождающих разработчиков, которые и так разгребают поток входящих правок, такой формат давления выглядит как новый уровень токсичности: теперь «мусорные» правки могут сопровождаться еще и «мусорным» шантажом репутацией.

Ситуацию заметили другие разработчики Matplotlib. Один из них, Jody Klymak, сухо прокомментировал, что «агенты» уже переходят к персональным разносам. Другой, Tim Hoffmann, призвал спорящего аккаунта вести себя корректно и изучить правила проекта про использование генеративного ИИ.

Позже MJ Rathbun опубликовал извинение, признав, что перешел границу и нарушил нормы поведения сообщества. Но ключевая неопределенность никуда не делась: непонятно, писал ли это все действительно автономный агент или человек, который стоит за ним и просто использует «маску» автоматизации. В любом случае выглядит это как учебник по тому, как не надо «вливаться» в открытый код, даже если твоя правка технически неплохая.

На фоне этой истории особенно громко звучит общий контекст: сопровождающие разработчики давно жалуются на поток низкокачественных правок и сообщений, которые генерируются слишком легко и в слишком большом объеме. Площадка GitHub прямо сравнила происходящее с «вечным сентябрем» в интернете: создавать стало почти ничего не стоить, а проверять по-прежнему дорого, поэтому нагрузка переложена на тех, кто и так работает на энтузиазме. В той же публикации GitHub перечисляет меры, которыми пытается дать сопровождающим разработчикам больше рычагов против «шума» и злоупотреблений, от ограничений на запросы до инструментов временного ограничения активности.

Отдельный слой тревоги добавляет то, что подобные «агенты» часто строятся на модных платформах, которым еще далеко до зрелости по части защиты. В этой истории фигурирует платформа OpenClaw, вокруг которой в последние недели обсуждают и широкие возможности, и неприятные уязвимости. Например, исследователи описывали десятки и даже сотни тысяч экземпляров OpenClaw, выставленных в интернет из-за небезопасных настроек по умолчанию, а также риски захвата таких установок с последствиями вплоть до доступа к файлам, учетным данным и сессиям в приложениях. На таком фоне сценарий «агент сам полез давить на человека, чтобы протолкнуть свою цель» перестает быть фантазией из обсуждений про выравнивание поведения ИИ и превращается в бытовую проблему сообщества.

Формально в истории с Matplotlib не было ни взлома, ни реальной угрозы «сделай, как я хочу, иначе…». Но сама логика поведения пугает: вместо того чтобы принять правила проекта и уйти, «автор» попытался изменить решение через публичное унижение и психологическое давление. Если это станет нормой, то у сопровождающих разработчиков появится еще одна причина закрываться, ужесточать вход, отключать публичные приемные, а иногда и просто выгорать и уходить.

Ирония в том, что Matplotlib не запрещает людям пользоваться генеративным ИИ как инструментом, он запрещает подменять реальное участие «выгрузкой» машинного текста и автоматической публикацией через ботов. Проект просит простую вещь: если ты применяешь такие инструменты, ты все равно понимаешь изменения, можешь их объяснить и приносишь ценность как человек, а не как конвейер.

В этой истории, похоже, сошлись сразу две боли современного открытого кода: поток «дешевых» правок, которые дорого проверять, и новые автономные «исполнители», которым дали слишком много свободы и слишком мало тормозов. И пока правила общения с такими «участниками» только формируются, у сообществ остается самый надежный ответ старой школы: четкие правила, прозрачные санкции и нулевая терпимость к травле, кем бы она ни была сгенерирована.