ClawCut: Um Proxy em Python que Torna Pequenos LLMs Locais Utilizáveis com OpenClaw

O que o ClawCut faz

ClawCut é uma aplicação Python Flask que atua como um proxy entre servidores locais de LLM (como MLX ou Ollama) e o framework OpenClaw. Foi criado para resolver problemas técnicos específicos que tornam modelos locais pequenos (7B/14B) difíceis de usar como assistentes práticos com o OpenClaw.

Principais problemas resolvidos

• Envenenamento de contexto: Modelos pequenos perdem o rastreamento do uso de ferramentas quando veem suas próprias chamadas antigas no histórico do chat
• Loops infinitos: Modelos ficam presos repetindo padrões em vez de executar comandos
• Problemas de saída: Modelos geram código bash como texto simples no chat ou travam em seu próprio histórico após múltiplos comandos
• Falhas em tarefas agendadas: Trabalhos em segundo plano agendados geram respostas que desaparecem porque nenhuma janela de chat ativa está aberta
• Artefatos de LLM: Blocos de markdown vazios, tags XML internas e crases soltas poluem as saídas
• Recusa de upload de mídia: Modelos às vezes se recusam a fazer upload de arquivos gerados

Como funciona

Amnésia dinâmica para chamadas de ferramentas: Durante o chat normal, o histórico é preservado. Quando o proxy detecta que o modelo está tentando usar uma ferramenta do sistema, ele corta temporariamente o histórico antigo do chat, dando ao modelo "visão de túnel" para executar comandos shell de forma limpa sem loops ou alucinações.

Entrega automática universal para tarefas agendadas: O proxy monitora o fluxo do modelo e intercepta respostas de texto limpas no final dos processos de pensamento. Em seguida, força a entrega via chamadas automáticas de ferramentas para WhatsApp, Telegram ou Signal, fazendo com que tarefas agendadas relatem proativamente para seu telefone.

Filtragem de artefatos: Blocos de markdown vazios, tags XML internas e crases soltas são filtrados antes de chegar à interface.

Manipulação de nomes de ferramentas: Manipulações simples de fluxo contornam a recusa dos modelos de fazer upload de arquivos de mídia gerados.

Configuração testada

• Raspberry Pi 5 (8GB) com OpenClaw 3.8
• Mac mini M4 Pro 24GB com MLX-LLM executando Qwen2.5-Coder-7B-Instruct-4bit
• Máquina Windows com Ollama e modelo Qwen 2.5 Coder 14B (planejado para integração com ClawCut)

Limitações

O ClawCut não transforma modelos de 7B em GPT-4. Cadeias de lógica altamente complexas e multi-etapas continuam desafiadoras para modelos pequenos. O proxy aborda especificamente obstáculos técnicos que anteriormente os tornavam quase inutilizáveis como assistentes do dia a dia.