Executando um pipeline de coaching comportamental com 6 agentes no Qwen3 235B auto-hospedado com vLLM
Sistema de coaching comportamental multiagente
Um desenvolvedor implementou um pipeline cognitivo de 6 agentes para coaching comportamental que roda inteiramente em modelos Qwen3 auto-hospedados via vLLM. O sistema usa instâncias Claude Code como agentes chamando um endpoint vLLM, com quatro agentes especialistas disparando simultaneamente em cada mensagem do usuário.
Hardware e configuração
- Desenvolvimento: Qwen3 30B em 2x RTX 4090s
- Produção: Qwen3 235B em pods RunPod A40
- Todos os 6 agentes são instâncias Claude Code chamando o endpoint vLLM
Arquitetura do pipeline
Cada mensagem do usuário aciona 6 agentes em sequência:
- Shadow - Executa primeiro, escreve padrões comportamentais entre sessões em um quadro-negro compartilhado (metas declaradas vs prioridades reveladas, previsão de execução, classificação de padrões)
- Persona - Pontuação OCEAN, detecção de metas recorrentes, porcentagens de previsão de execução, identificação de margens de crescimento
- Plasticity - Estratégia de coaching informada por personalidade, mapeia pontuações OCEAN para preferências de comunicação
- Stability - Estrutura de risco com classificações de gravidade/detectabilidade/reversibilidade, identifica movimentos bloqueados que o coach não deve sugerir
- Coach - Dispara cedo para uma resposta imediata enquanto os outros agentes processam (~segundos)
- Synth (Pineal) - Combina todas as saídas dos trabalhadores, aplica calibração de voz, entrega a resposta completa
Características de desempenho
O usuário vê uma resposta imediata do Coach, então a síntese completa é anexada aproximadamente 40 segundos depois em 2x RTX 4090s. Na configuração A40, isso leva cerca de 108 segundos - contra-intuitivamente mais lento devido à arquitetura de memória diferente.
Principais insights de implementação
O que funcionou:
- Despacho paralelo é a chave para o desempenho
- Shadow deve escrever primeiro porque a síntese precisa do conteúdo do quadro-negro para agregar corretamente
- A lógica de sequenciamento para garantir que Shadow complete antes que Synth colete adiciona complexidade significativa, mas é não negociável
- Gerenciamento de contexto em escala 235B é caro - cada agente recebe um briefing de contexto completo mais o histórico da sessão
- Compactação agressiva entre sessões e orçamentos de contexto restritos por agente têm sido as principais alavancas de confiabilidade
O que é difícil:
- Fazer com que os agentes escrevam saída estruturada de forma confiável o suficiente para a síntese agregar sem alucinar artefatos de mesclagem
- Modo principal de falha: Synth vendo sinais conflitantes de Persona e Stability na mesma sessão
O desenvolvedor está buscando contribuições de outros que executam sistemas multiagente em inferência auto-hospedada, particularmente em relação a estratégias de paralelismo em escala 235B.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Lições Práticas do Uso de Agentes de IA em uma Base de Código de 100k LOC
Um desenvolvedor compartilha seis técnicas específicas aprendidas ao usar Claude Code e Cursor para construir uma camada de API compatível com pandas sobre o chDB, incluindo manter um arquivo de regras CLAUDE.md, usar agentes sem contexto como críticos e estruturar fluxos de trabalho multiagente com coordenação baseada em sistema de arquivos.
Pesquisadores Usam Projetos Claude para Revisão de Escopo Acadêmica: Pontos Fortes e Limitações
Pesquisadores utilizaram o Claude Projects para auxiliar em uma revisão de escopo revisada por pares de 39 estudos qualitativos de entrevista sobre as experiências de estudantes com IA generativa no ensino superior. A ferramenta demonstrou pontos fortes específicos no cruzamento de referências de temas e na sugestão de categorias analíticas, mas exigiu verificação rigorosa em relação aos dados de origem.
Usando LLM Local para Monitorar Sessões AFK de Bot no Minecraft
Um desenvolvedor utilizou um LLM local para monitorar seu bot do Minecraft executando Baritone para tarefas de mineração, configurando monitoramento de tela para receber alertas quando o bot morre ou se desconecta do servidor.
Como um Bug no useEffect do React Causou Feedback Háptico Aleatório e Prejudicou a Retenção do Aplicativo
Um desenvolvedor ignorou por meses os relatos de usuários sobre vibrações aleatórias no aplicativo, apenas para descobrir que um problema de dependência do React useEffect estava causando feedback háptico constante em dispositivos de médio porte, fazendo a retenção de 7 dias cair de 35% para 18%.