Skillware fügt prompt_rewriter für deterministische Token-Kompression in Claude API-Agenten-Schleifen hinzu

Skillware hat eine prompt_rewriter-Funktion hinzugefügt, die Claude-API-Kosten in agentenbasierten Schleifen reduziert, indem Prompts vor dem Senden an das LLM komprimiert werden. Die Middleware verwendet heuristische Komprimierung, um die Token-Nutzung um 50-80% zu senken, während deterministisches Verhalten über Iterationen hinweg beibehalten wird.

Wie es funktioniert

Das Tool fungiert als Middleware, die zwischen Ihrem Agenten und der Claude-API sitzt. Es wendet eine aggressive Komprimierung auf Prompts an, bevor sie an das LLM gesendet werden, und stellt sicher, dass Sie nur für das Signal und nicht für das Rauschen bezahlen. Da die Komprimierung deterministisch ist, bleibt das Agentenverhalten über Schleifen hinweg stabil.

Komprimierungsstufen

• Niedrig: Normalisiert Leerzeichen
• Mittel: Entfernt Gesprächsfüller (bitte, stellen Sie sicher, usw.)
• Hoch: Entfernt aggressiv Stoppwörter und nicht wesentliche Satzzeichen

Das Tool adressiert das Problem explodierender Kosten in iterativen Agentenschleifen, bei denen massive Kontextfenster zu massiven Rechnungen führen. Es ist Open-Source und auf GitHub verfügbar, wobei der Entwickler nach weiteren Funktionen, Feedback, Ideen und Beiträgen sucht.