Видеокарта может расходовать почти всю доступную память, даже когда пользователь не понимает, какие программы создают нагрузку. Особенно сложно разобраться с локальными нейросетями, которым память требуется для хранения параметров модели, обработки запросов и промежуточных вычислений. Разработчик Скотт Хансельман представил открытый диспетчер GPU Task Manager, способный показывать загрузку графического процессора, потребление памяти отдельными приложениями и предполагаемое распределение ресурсов между компонентами нейросетей. Программа работает в Windows, Linux и macOS.
9 ноября 2026 года вышла версия 0.3.4. GPU Task Manager, также известный как gputaskman, представляет собой терминальную утилиту с интерактивными таблицами и графиками. В отличие от обычного мониторинга видеокарты, программа помогает выяснить, какие процессы используют GPU, сколько памяти занимают приложения и почему часть графических данных размещается в системной оперативной памяти. Диспетчер также показывает температуру, энергопотребление, частоты и загрузку отдельных вычислительных блоков, если оборудование и драйверы предоставляют необходимые показатели.
Главная особенность gputaskman связана с анализом локальных нейросетей. Программа пытается определить запущенную модель, её архитектуру, количество слоёв, размер весов и используемый уровень квантования. Отдельное внимание уделяется KV-кешу, который хранит промежуточные результаты обработки текста и позволяет нейросети не выполнять повторные вычисления при генерации ответа. По мере увеличения контекста KV-кеш может занимать значительную часть доступной памяти, даже если размер самой модели остаётся неизменным.
Для распознавания нейросетей GPU Task Manager изучает сведения о запущенных процессах, подключённых библиотеках и файлах моделей. Утилита поддерживает обнаружение моделей, работающих через llama.cpp, Ollama и LM Studio, а также распознаёт признаки использования CUDA, Vulkan, ONNX Runtime и других технологий. При наличии дополнительной информации программа может показать размер контекста, выделенные вычислительные буферы и скорость генерации текста. Наиболее подробно разработчики проверили интеграцию с llama.cpp и Ollama. Возможности распознавания других сред пока ограничены.
Одна из полезных функций позволяет сравнивать состояние графического процессора до и после запуска нейросети. Пользователь может сохранить показатели в JSON, выполнить вычисления и сравнить два снимка нагрузки. Такой подход помогает определить, насколько изменилось потребление видеопамяти после загрузки другой модели или увеличения контекста. Например, при нехватке памяти можно проверить, сколько ресурсов освободит переход на более компактную модель и насколько сильно изменится нагрузка на оперативную память компьютера.
Поддержка оборудования зависит от операционной системы. В Windows диспетчер работает с видеокартами NVIDIA и AMD, включая компьютеры с процессорами ARM64. В Linux предусмотрена поддержка NVIDIA, а также AMD и Intel с соответствующими драйверами. Программа может работать внутри контейнеров и подсистемы WSL, хотя часть показателей в виртуализированных средах недоступна. Для macOS реализована поддержка компьютеров с Apple Silicon. Поскольку процессор и графический ускоритель Apple используют общую память, программа отображает другие показатели, чем на компьютерах с отдельной видеокартой.
Разработчики подчёркивают, что GPU Task Manager не способен напрямую определить содержимое всей видеопамяти. Системные счётчики позволяют измерить расход ресурсов, однако распределение памяти между весами модели, KV-кешем и вычислительными буферами часто приходится оценивать по метаданным файлов, журналам работы и ответам локальных серверов. Наличие файла модели в памяти процесса также не доказывает, что нейросеть выполняет вычисления на GPU. Программа предназначена для мониторинга локальных графических нагрузок и не отслеживает вычисления в облаке или работу отдельных нейропроцессоров NPU.
В обновлении 0.3.4 появился компактный режим мониторинга, скрывающий часть технической информации о видеокарте и драйверах без отключения основных показателей. Разработчики также исправили восстановление отображения GPU после изменения конфигурации графических адаптеров Windows. Предыдущие обновления добавили поддержку macOS, видеокарт AMD под Linux и сравнение сохранённых показателей нагрузки.
GPU Task Manager распространяется бесплатно с открытым исходным кодом по лицензии MIT. Для Windows доступны готовые сборки x64 и ARM64, для Linux предусмотрены архивы под обе архитектуры. На macOS программу пока необходимо запускать из исходного кода. Утилита не отправляет телеметрию разработчикам и не извлекает содержимое весов нейросетей, однако сохраняемые отчёты могут содержать названия моделей, пути к файлам и параметры запуска программ. Перед публикацией диагностических данных конфиденциальную информацию рекомендуется удалить. Разработчики называют проект экспериментальным и продолжают расширять поддержку оборудования и программных платформ.
