Black LLAB: Arquitetura de Código Aberto para Roteamento Dinâmico de Modelos e Agentes de IA em Sandbox Docker

Um desenvolvedor lançou o Black LLAB, um projeto de código aberto que tenta replicar sistemas de laboratórios de IA de ponta para execução autônoma de tarefas. O sistema aborda dois problemas principais: decidir manualmente qual modelo usar para diferentes prompts e executar com segurança o código de agentes de IA.

Componentes da Arquitetura

O sistema consiste em vários componentes-chave:

• Roteamento Dinâmico de Complexidade: Usa o Mistral 3B Instruct para classificar prompts em uma escala de 1-100. Perguntas simples são direcionadas para modelos rápidos/baratos; tarefas complexas de programação são direcionadas para modelos pesados com modelagem de contexto XML "Lost in the Middle".
• Agentes em Sandbox Docker: Integra o OpenClaw para implantar agentes em contêineres Docker dedicados e isolados. Os agentes podem escrever arquivos, fazer scraping da web e executar código sem tocar no sistema operacional do host.
• RAG Híbrido Avançado: Constrói um Grafo de Conhecimento persistente usando NetworkX e usa um Cross-Encoder para recuperação de contexto precisa além da busca vetorial padrão.
• Web e Visão ao Vivo: Integra-se com o SearxNG local para scraping da web e Pix2Text para visão/OCR local.
• Limites de Orçamento: Inclui um controle deslizante de limite de gastos diário para evitar excedentes de API na nuvem.

Lista de Modelos

O sistema usa vários modelos para diferentes finalidades:

• Roteamento/Lógica: Mistral 3B & Qwen 3.5 9B (Local)
• Faixa Média/Velocidade: Xiaomi MiMo Flash
• Tarefas Pesadas (Fallback): Claude Opus & Perplexity Sonar

Stack Tecnológica

O projeto é construído com FastAPI, Python, NetworkX, ChromaDB, Docker, Ollama, Playwright e uma interface de usuário inspirada em terminal HTML/JS vanilla.

O desenvolvedor se descreve como "mais um engenheiro mecânico do que de software" e está buscando feedback de desenvolvedores seniores sobre a arquitetura, particularmente a abordagem de sandboxing Docker. O projeto está disponível no GitHub para pesquisadores independentes que desejam executar tarefas autônomas sem ficar presos a um único provedor.