Kammer: KI-Agent für GPU-Infrastrukturverwaltung

Chamber ist ein KI-Agent, der zur Verwaltung von GPU-Infrastruktur entwickelt wurde und von einem Team mit Erfahrung aus Amazons GPU-Infrastrukturbetrieb aufgebaut wurde. Der Agent fungiert als Steuerungsebene, die ein Live-Modell Ihrer GPU-Flotte pflegt, einschließlich Knoten, Workloads, Teamstruktur und Cluster-Integrität.

Kernfunktionalität

Chamber bewältigt Infrastrukturaufgaben durch strukturierte Operationen, die der KI-Agent aufrufen kann:

• Überprüfung der Knotengesundheit
• Lesen der Cluster-Topologie
• Verwaltung des Workload-Lebenszyklus
• Anpassung von Ressourcenkonfigurationen
• Bereitstellung von Infrastruktur

Diese Operationen umfassen Validierungs- und Rollback-Fähigkeiten und gehen über einfache Shell-Befehle hinaus. Wenn neue Funktionen zur Plattform hinzugefügt werden, stehen sie dem Agenten automatisch zur Verfügung.

Sicherheit und Autonomie

Das System implementiert abgestufte Autonomie für Sicherheit:

• Routineaufgaben automatisch erledigt: Diagnose fehlgeschlagener Jobs, erneutes Einreichen mit korrigierten Ressourcen, Isolierung fehlerhafter Knoten
• Menschliche Genehmigung erforderlich für: Aktionen, die Workloads oder Produktionsjobs anderer Teams betreffen
• Alle Aktionen werden protokolliert mit Angaben dazu, was der Agent beobachtet hat, warum er gehandelt hat und was er geändert hat

Diagnosefähigkeiten

Bei der Untersuchung von Fehlern fragt Chamber mehrere Datenquellen ab:

• GPU-Zustand
• Workload-Verlauf
• Knotengesundheits-Zeitverläufe
• Cluster-Topologie

Dies ermöglicht spezifische Ursachenanalysen, die von generischen „Ihr Job ist wegen Speichermangel fehlgeschlagen“ zu detaillierten Erklärungen wie „Ihr Job ist wegen Speichermangel fehlgeschlagen, weil die Batch-Größe den verfügbaren VRAM auf diesem Knoten überschritten hat; hier ist eine korrigierte Konfiguration“ führen.

Plattformfunktionen

Basierend auf dem abgerufenen Seiteninhalt umfasst Chamber:

• Workload-Explorer mit erweiterter Suche und Filterung
• Dashboard, das die GPU-Auslastung anzeigt (z. B. 198 von 256 GPUs aktiv)
• Erfolgsquote-Tracking (94,9 % mit 7 Fehlern in 24 h)
• Überwachung der Warteschlangentiefe und geschätzten Wartezeit
• Kostenverfolgung pro Workload

Unterstützte Infrastruktur

Chamber funktioniert mit:

• Multi-Cloud: AWS, GCP, Azure
• On-Premise-Clustern
• Slurm und Kubernetes
• Hybrid-Setups über alle Umgebungen hinweg

Sicherheit und Einrichtung

• SOC 2 Type I zertifiziert
• Läuft innerhalb Ihrer Infrastruktur (Modelle, Datensätze und Code verlassen niemals Ihre Umgebung)
• Bereitstellung wird vom Chamber-Team ohne Unterbrechung bestehender Workflows durchgeführt

Das Tool adressiert häufige Probleme, die die Gründer beobachtet haben: Plattformingenieure, die viel Zeit mit Wartungsaufgaben verbringen, Forscher, die Stunden mit der Fehlersuche über getrennte Tools verlieren, und Teams, die trotz hoher Hardwarekosten keine Einblicke in die GPU-Auslastung haben.