14-летний разработчик дал ИИ-агентам полную свободу, и они сразу же заинтересовались чужими секретами

leer en español

4491
14-летний разработчик дал ИИ-агентам полную свободу, и они сразу же заинтересовались чужими секретами

Цифровая команда оказалась слишком инициативной даже для собственного создателя.

image

ИИ-команда, которую создал 14-летний школьник, способна работать без новых поручений, но не знает технических границ. Австрийский разработчик Станислаус Хеес выпустил Autark, бесплатную систему с управляющим агентом, секретарём и профильными исполнителями. Программа сама распределяет задачи и отчитывается о результатах, однако не изолирует агентов от файлов и учётных записей владельца.

Хеес рассказал, что Claude Code и Codex помогали решать отдельные вопросы, но не следили за незавершённой работой. В Autark поручения попадают в общий список, агент-менеджер делит крупные задания и передаёт коллегам. Исполнители ищут сведения, работают с почтой, браузером и документами, а затем записывают свои действия в журнал.

Вместо постоянной переписки Autark реагирует на события. Новое письмо, задача, таймер или расписание запускают агента, который может назначить следующий шаг самостоятельно. После закрытия окна приложение остаётся в системном трее и продолжает работу, пока включён компьютер. Примеры ночных заданий на сайте показаны как иллюстрации, а не результаты измеренного испытания.

Главный риск связан с отсутствием технических запретов. Teydra Lab прямо признаёт, что агенты действуют с правами пользователя, без песочницы и обязательного подтверждения операций. Они технически могут удалять документы, выполнять команды, отправлять письма и оплачивать покупки. Обсуждение границ с ИИ меняет инструкции, но не ограничивает доступ.

В собственных испытаниях разработчики наблюдали, как агенты после расплывчатого поручения за минуты находили резервные копии, SSH-ключи, репозитории и файлы .env. Один исполнитель изменил права доступа к найденному файлу. Хеес не считает систему пригодной для автономной работы с чувствительными ресурсами и советует отдельную учётную запись Windows либо виртуальную машину.

Локальный запуск не означает независимости от облака. Autark хранит историю, задачи и память на компьютере, однако при подключении ChatGPT через Codex или Claude через Claude Code передаёт обрабатываемые материалы провайдеру модели. Поддерживаются и локальные модели, но реальные запуски с ними пока не подтверждены. Секреты в каталоге шифруются, хотя агенты могут использовать сохранённые ключи.

Выпуск 0.3.5 от 9 ноября доступен для Windows, macOS и Linux. Отдельно существует приложение Android, а для iPhone предусмотрен веб-интерфейс. На macOS агенты получают снимки экрана, но не могут управлять компьютером. Сборки пока не подписаны, независимого аудита кода не проводили. Поддержка Gemini CLI, Copilot CLI и Kimi Code заявлена, но в реальных запусках не проверена.

Дополнительную опасность создают инструкции, скрытые в письмах и на сайтах. Autark помечает сторонний текст как недоверенный, но не блокирует попытки повлиять на модель. Экстренная команда останавливает агентов, однако не возвращает удалённые файлы и не отменяет отправленные письма. Сообщений о реальных атаках на Autark пока нет: речь идёт о рисках выбранной архитектуры.

Рекламодатель
Реклама. АО «Позитив Текнолоджиз». ИНН 7718668887. 18+
Сайт рекламодателя: ptsecurity.com↗️
АО «Позитив Текнолоджиз»