Tiefgehende Forschungsberichte mit Hermes Agent und Qwen3.6-35b-a3b: Ein praktischer Leitfaden

Ein Reddit-Nutzer mit über 15 Jahren Erfahrung in der Sozialforschung für öffentliche Einrichtungen beschreibt detailliert seinen Prozess zur Erstellung umfassender Forschungsberichte mit Hermes Agent und dem Modell qwen3.6-35b-a3b in der Q6_K-Quantisierung. Ziel war die Produktion von McKinsey-artigen Berichten, vergleichbar mit den Ergebnissen von Perplexity. Nach fünf Stunden kontinuierlicher Verarbeitung bei etwa 28 Token pro Sekunde auf einem 12th Gen Intel Core mit 32 GB RAM und einer RTX 4060 unter Linux Mint erstellte der Agent einen 21-seitigen Bericht über den aktuellen Stand der KI in Europa, mit sechs Iterationen der schrittweisen Verbesserung – einschließlich Diagnose von Problemen, deren Behebung, Erstellung von Diagrammen und deren Einfügung – fast völlig autonom.

Wichtige Details

• Modell: qwen3.6-35b-a3b Q6_K (quantisiert), ausgeführt über Hermes Agent.
• Hardware: 12th Gen Intel Core CPU, 32 GB RAM, RTX 4060 GPU, Linux Mint. Erreichte etwa 28 Token pro Sekunde.
• Workflow: Der Nutzer führte sechs Schleifen über dasselbe Dokument durch. Jede Schleife: Entwurf erstellen, Probleme diagnostizieren, beheben, Diagramme hinzufügen, wieder einfügen. Der Agent verwendete benutzerdefinierte Fähigkeiten (im Repository bereitgestellt), um die integrierten Fähigkeiten von Hermes Agent auszugleichen, die als „mangelhaft“ beschrieben wurden.
• Ausgabe: Endbericht in den Formaten Markdown, DOCX und PDF. Alle Zwischenergebnisse (Prompts, Meta-Prompts, Python-Skripte, Diagramme) sind im Repository enthalten.
• Repository-Inhalt: Fähigkeiten, Prompts, Meta-Prompts, Python-Skripte, Zwischenergebnisse und der endgültige Bericht. Die README- und Ordnerstruktur wurden ebenfalls KI-generiert.
• Anmerkungen des Nutzers: Kein Muttersprachler (nicht KI-redigiert). Ergebnisse als „recht akzeptabel“ beschrieben – nicht exzellent, aber ein guter Ausgangspunkt für den öffentlichen Forschungsgebrauch.

Für wen es gedacht ist

Entwickler und Forscher, die an KI-gestützter Berichterstellung arbeiten, insbesondere in der öffentlichen Verwaltung oder Politikforschung, die die Erstellung von Langdokumenten mit lokalen LLMs automatisieren möchten.