Utilyze: Монитор GPU с открытым исходным кодом, измеряющий реальную вычислительную пропускную способность, а не только активность ядра

Стандартный показатель использования GPU, применяемый в nvidia-smi, nvtop, Weights & Biases, Amazon CloudWatch, Google Cloud Monitoring и Azure Monitor, вводит в заблуждение. Он сообщает долю времени, в течение которого выполняется любое ядро, поэтому GPU может показывать 100% загрузку, используя всего 1-10% реальной вычислительной мощности. Команды, полагающиеся на этот показатель для планирования мощностей, могут считать системы перегруженными, когда на самом деле они недогружены.

Utilyze

Компания SysTalize выпустила Utilyze (utlz) — инструмент с открытым исходным кодом (Apache 2.0), который измеряет использование GPU иначе. Вместо активности ядер он берет образцы аппаратных счетчиков производительности и сообщает вычислительную и памятьную пропускную способность относительно теоретических пределов оборудования. Также он оценивает достижимый потолок использования для данной рабочей нагрузки.

Установка

curl -fsSL https://systalyze.com/utilyze/install.sh | bash

Utilyze работает в реальном времени параллельно с любой AI-нагрузкой с незначительными накладными расходами. В производственных развертываниях он выявил порядковые различия в запасе производительности в системах, которые стандартные инструменты объявляли полностью загруженными.

Почему это важно

Вычислительные ресурсы AI дефицитны: годовые контракты аренды H100 выросли примерно на 40% с октября 2025 по март 2026, а сроки поставки GPU растягиваются на месяцы. Огромные средства тратятся впустую на ненужное оборудование и энергию. Точное измерение — необходимое условие для оптимизации: каждый процентный пункт восстановленной реальной пропускной способности экономит деньги и ресурсы.

Репозиторий на GitHub: https://github.com/systalyze/utilyze