Skillware ajoute prompt_rewriter pour la compression déterministe des tokens dans les boucles d'agents de l'API Claude.

Skillware a ajouté une compétence prompt_rewriter qui réduit les coûts de l'API Claude dans les boucles agentiques en compressant les prompts avant de les envoyer au LLM. Le middleware utilise une compression heuristique pour réduire l'utilisation de tokens de 50 à 80 % tout en conservant un comportement déterministe à travers les itérations.

Comment cela fonctionne

L'outil fonctionne comme un middleware qui s'intercale entre votre agent et l'API Claude. Il applique une compression agressive aux prompts avant qu'ils ne soient envoyés au LLM, garantissant que vous ne payez que pour le signal et non pour le bruit. Comme la compression est déterministe, le comportement de l'agent reste stable d'une boucle à l'autre.

Niveaux de compression

• Faible : Normalise les espaces blancs
• Moyen : Supprime les remplissages conversationnels (s'il vous plaît, assurez-vous, etc.)
• Élevé : Supprime agressivement les mots vides et la ponctuation non essentielle

L'outil résout le problème des coûts incontrôlés dans les boucles agentiques itératives où les énormes fenêtres de contexte entraînent des factures colossales. Il est open-source et disponible sur GitHub, le développeur étant à la recherche de plus de compétences, de retours, d'idées et de contributions.