Utilyze: Open-Source GPU-Monitor, der echten Rechendurchsatz misst, nicht nur Kernel-Aktivität

Die standardmäßige GPU-Auslastungskennzahl, die von nvidia-smi, nvtop, Weights & Biases, Amazon CloudWatch, Google Cloud Monitoring und Azure Monitor verwendet wird, ist irreführend. Sie gibt den Zeitanteil an, in dem irgendein Kernel läuft. Daher kann eine GPU 100% Auslastung anzeigen, während sie tatsächlich nur 1-10% der Rechenkapazität nutzt. Teams, die sich bei der Kapazitätsplanung darauf verlassen, könnten Systeme für ausgelastet halten, die in Wirklichkeit unterausgelastet sind.

Utilyze

SysTalize hat Utilyze (utlz) veröffentlicht, ein Open-Source-Tool (Apache 2.0), das die GPU-Auslastung anders misst. Anstatt der Kernel-Aktivität tastet es Hardware-Performance-Counter ab und gibt den Rechen- und Speicherdurchsatz relativ zu den theoretischen Grenzen der Hardware an. Außerdem schätzt es eine erreichbare Auslastungsobergrenze für eine gegebene Arbeitslast.

Installation

curl -fsSL https://systalyze.com/utilyze/install.sh | bash

Utilyze läuft in Echtzeit neben jeder KI-Arbeitslast mit vernachlässigbarem Overhead. In Produktionsumgebungen hat es Größenordnungen an Leistungsreserven in Systemen aufgedeckt, die von Standard-Tools als voll ausgelastet gemeldet wurden.

Warum das wichtig ist

KI-Rechenleistung ist knapp: Die Kosten für Ein-Jahres-Mietverträge für H100 stiegen von Oktober 2025 bis März 2026 um etwa 40%, und die Lieferzeiten für GPUs erstrecken sich über Monate. Die Verschwendung von Geld für unnötige Hardware und Energie ist enorm. Eine genaue Messung ist die Voraussetzung für Optimierung – jeder Prozentpunkt echten Durchsatzes, der zurückgewonnen wird, spart Geld und Ressourcen.

GitHub-Repository: https://github.com/systalyze/utilyze