Executando um pipeline de coaching comportamental com 6 agentes no Qwen3 235B auto-hospedado com vLLM
Sistema de coaching comportamental multiagente
Um desenvolvedor implementou um pipeline cognitivo de 6 agentes para coaching comportamental que roda inteiramente em modelos Qwen3 auto-hospedados via vLLM. O sistema usa instâncias Claude Code como agentes chamando um endpoint vLLM, com quatro agentes especialistas disparando simultaneamente em cada mensagem do usuário.
Hardware e configuração
- Desenvolvimento: Qwen3 30B em 2x RTX 4090s
- Produção: Qwen3 235B em pods RunPod A40
- Todos os 6 agentes são instâncias Claude Code chamando o endpoint vLLM
Arquitetura do pipeline
Cada mensagem do usuário aciona 6 agentes em sequência:
- Shadow - Executa primeiro, escreve padrões comportamentais entre sessões em um quadro-negro compartilhado (metas declaradas vs prioridades reveladas, previsão de execução, classificação de padrões)
- Persona - Pontuação OCEAN, detecção de metas recorrentes, porcentagens de previsão de execução, identificação de margens de crescimento
- Plasticity - Estratégia de coaching informada por personalidade, mapeia pontuações OCEAN para preferências de comunicação
- Stability - Estrutura de risco com classificações de gravidade/detectabilidade/reversibilidade, identifica movimentos bloqueados que o coach não deve sugerir
- Coach - Dispara cedo para uma resposta imediata enquanto os outros agentes processam (~segundos)
- Synth (Pineal) - Combina todas as saídas dos trabalhadores, aplica calibração de voz, entrega a resposta completa
Características de desempenho
O usuário vê uma resposta imediata do Coach, então a síntese completa é anexada aproximadamente 40 segundos depois em 2x RTX 4090s. Na configuração A40, isso leva cerca de 108 segundos - contra-intuitivamente mais lento devido à arquitetura de memória diferente.
Principais insights de implementação
O que funcionou:
- Despacho paralelo é a chave para o desempenho
- Shadow deve escrever primeiro porque a síntese precisa do conteúdo do quadro-negro para agregar corretamente
- A lógica de sequenciamento para garantir que Shadow complete antes que Synth colete adiciona complexidade significativa, mas é não negociável
- Gerenciamento de contexto em escala 235B é caro - cada agente recebe um briefing de contexto completo mais o histórico da sessão
- Compactação agressiva entre sessões e orçamentos de contexto restritos por agente têm sido as principais alavancas de confiabilidade
O que é difícil:
- Fazer com que os agentes escrevam saída estruturada de forma confiável o suficiente para a síntese agregar sem alucinar artefatos de mesclagem
- Modo principal de falha: Synth vendo sinais conflitantes de Persona e Stability na mesma sessão
O desenvolvedor está buscando contribuições de outros que executam sistemas multiagente em inferência auto-hospedada, particularmente em relação a estratégias de paralelismo em escala 235B.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Qwen3-0.6B INT8 local como base de incorporação para sistema de memória de IA
Um desenvolvedor implementou o Qwen3-0.6B quantizado para INT8 via ONNX Runtime como um modelo de incorporação local para um sistema de ciclo de vida de memória de IA, alcançando inferência em lote de 12ms na CPU com vetores de 1024 dimensões e limiares de similaridade de cosseno de 0,75 para relação semântica.
OpenClaw superou o Chat — Uma Interface de Painel é o Padrão que Faltava
Um usuário do Reddit descreve como executar o OpenClaw através do Telegram se torna problemático à medida que os fluxos de trabalho se multiplicam, e por que um painel web (como o que ele mesmo criou) deveria ser uma interface padrão e acoplável para ferramentas de agentes.
Agente de IA OpenClaw Gerencia Fluxo de Trabalho de Anúncios do LinkedIn com CTR de 2,65%
Um desenvolvedor criou um agente de IA chamado Patrick usando o OpenClaw para gerenciar todo o fluxo de trabalho de anúncios no LinkedIn, incluindo criação de pipeline de dados, geração de texto para anúncios e aprovação por meio de uma ferramenta de revisão personalizada. Um anúncio gerado por IA alcançou uma taxa de cliques de 2,65%, superando todos os anúncios manuais.
Desenvolvedor Cria Visualização 3D de Cidade do GitHub Usando Código Claude em Um Dia
Um desenvolvedor criou o Git City, uma visualização 3D onde usuários do GitHub aparecem como edifícios em pixel art, com altura baseada em commits e largura em repositórios, usando exclusivamente Claude Code em um dia. O projeto utiliza Next.js, Three.js, Supabase e Vercel.