A Skillware adiciona o prompt_rewriter para compressão determinística de tokens em loops de agentes da API Claude.

A Skillware adicionou uma habilidade de reescrita de prompts que reduz os custos da API Claude em loops agentivos ao comprimir prompts antes de enviá-los para o LLM. O middleware usa compressão heurística para reduzir o uso de tokens em 50-80% enquanto mantém comportamento determinístico entre iterações.

Como funciona

A ferramenta opera como um middleware que fica entre seu agente e a API Claude. Ela aplica compressão agressiva aos prompts antes que sejam enviados para o LLM, garantindo que você pague apenas pelo sinal e não pelo ruído. Como a compressão é determinística, o comportamento do agente permanece estável entre os loops.

Níveis de compressão

• Baixo: Normaliza espaços em branco
• Médio: Remove preenchimentos conversacionais (por favor, assegure, etc.)
• Alto: Remove agressivamente palavras de parada e pontuação não essencial

A ferramenta aborda o problema de custos descontrolados em loops agentivos iterativos, onde janelas de contexto massivas levam a contas enormes. É de código aberto e disponível no GitHub, com o desenvolvedor buscando mais habilidades, feedback, ideias e contribuições.