Otimizando o AutoResearch no RTX 5090: O que falhou e o que funcionou

Problemas Iniciais e Caminho Funcional
A configuração inicial para executar o AutoResearch em um sistema RTX 5090/Blackwell estava "totalmente quebrada" com desempenho extremamente ruim—apenas alguns milhares de tokens por segundo e MFU (Utilização de FLOPs do Modelo) praticamente inútil, apesar do código estar tecnicamente em execução.
O caminho de configuração funcional envolveu:
- Evitar o caminho de compilação do modelo completo que estava quebrado nesta configuração
- Manter as boas melhorias de compilação do otimizador fundido onde elas realmente ajudavam
- Usar o caminho estável de atenção SDPA/CuDNN
- Ajustar o lote total e o orçamento de tempo empiricamente em vez de adivinhar
- Automatizar o ciclo de benchmark/extração/estratégia/re-execução
O Que Falhou
Vários modos de falha foram enganosos:
- Um caminho que era tecnicamente correto, mas catastróficamente lento
- Interpretação enganosa do MFU até que o denominador foi corrigido para o contexto da 5090
- Configurações de lote por dispositivo maiores que pareciam que deveriam ajudar, mas na verdade pioraram muito as coisas
- Bugs de automação em torno de limpeza de bloqueios/ganchos de conclusão/ordem de despacho
Como o desenvolvedor observou: "Havia várias maneiras de obter uma execução que parecia viva enquanto fazia algo estúpido."
O Que Ajudou
As melhorias reais vieram de:
- Reativar o caminho de compilação do otimizador fundido
- Reduzir o lote total da configuração original maior
- Validar 2**17 como a região de lote total melhor
- Aumentar o orçamento de tempo uma vez que o regime de lote estável foi encontrado
- Tratar a automação como parte do sistema de benchmark, não como uma reflexão tardia
Progressão de Desempenho
A progressão das execuções úteis mostrou melhorias claras:
- Execução saudável de linha de base: val_bpb: 1.165452, mfu: 40.49%
- Melhoria da compilação do otimizador fundido: val_bpb: 1.155400, mfu: 42.88%
- TOTAL_BATCH_SIZE = 2**18: val_bpb: 1.108381, mfu: 43.18%
- Validação TOTAL_BATCH_SIZE = 2**17: val_bpb: 1.089424, mfu: 43.03%
- Melhor resultado atual do loop automático: TOTAL_BATCH_SIZE = 2**17, TIME_BUDGET = 1200, multiplicador LR = 1.0, val_bpb: 0.999445, mfu: 42.56%, total_tokens_M: 387.8, num_steps: 2959
Melhor Configuração Atual
O melhor resultado encontrado até agora:
- TOTAL_BATCH_SIZE = 2**17
- TIME_BUDGET = 1200
- Multiplicador LR = 1.0
Esta combinação superou variantes de lote maiores, a variante menor 2**16, um teste de LR mais baixo e orçamentos de treinamento mais curtos.
Principais Conclusões
A principal lição foi que a configuração vencedora não era uma configuração de "maximizar tudo". O caminho melhor envolveu um regime de lote estável, um horizonte de treinamento mais longo e a eliminação cuidadosa de erros de automação e backend.
O desenvolvedor enfatizou que se você está trabalhando no treinamento Blackwell/5090 e vendo comportamento bizarro, "pode não ser sua imaginação. Alguns caminhos são simplesmente muito piores do que parecem inicialmente." A parte útil deste exercício foi encontrar um caminho que é estável, automatizável, reproduzível e bom o suficiente para construir experimentos reais de acompanhamento sobre ele.
📖 Read the full source: r/LocalLLaMA
👀 See Also

OpenClaw 2026.3.7 quebra as chamadas da ferramenta Kimi, reverter para a versão 2026.3.2 corrige a regressão.
A versão 2026.3.7 do OpenClaw apresenta uma regressão em que o provedor da API Kimi gera XML bruto <function_calls> em vez de executar ferramentas. A solução é fazer o downgrade para a versão 2026.3.2 e restaurar um arquivo de configuração compatível.

Claude Code Cheat Sheet com 140 Dicas e Arquivo LLMs.txt
Um repositório do GitHub contém uma folha de dicas do Claude Code com 140 dicas organizadas em 14 seções, marcadas por dificuldade. O repositório inclui um arquivo llms.txt que pode ser alimentado diretamente ao Claude para aprender ou aplicar as dicas.

Integração do OpenClaw com a API do WhatsApp Cloud
Um desenvolvedor configurou o OpenClaw para se comunicar diretamente com o WhatsApp usando a API oficial em nuvem da Meta e documentou o processo de configuração para ajudar outros a evitar documentação dispersa.

Configurando Servidores MCP no Web UI do llama-server: Um Guia Prático
Um usuário do Reddit compartilha etapas específicas para configurar servidores MCP na interface web do llama-server, incluindo instalação do uv, criação de um arquivo config.json com definições de servidores, execução do mcp-proxy e modificação de URLs para integração adequada.