LLAB Noir : Architecture Open-Source pour le Routage Dynamique de Modèles et les Agents IA en Sandbox Docker

Un développeur a publié Black LLAB, un projet open-source qui tente de reproduire les systèmes de laboratoires d'IA de pointe pour l'exécution autonome de tâches. Le système aborde deux problèmes principaux : décider manuellement quel modèle utiliser pour différents prompts et exécuter en toute sécurité le code des agents d'IA.

Composants de l'architecture

Le système se compose de plusieurs composants clés :

• Routage dynamique de complexité : Utilise Mistral 3B Instruct pour évaluer les prompts sur une échelle de 1 à 100. Les questions simples sont routées vers des modèles rapides/économiques ; les tâches de codage complexes sont routées vers des modèles lourds avec une mise en forme de contexte XML "Lost in the Middle".
• Agents en bac à sable Docker : Intègre OpenClaw pour déployer des agents dans des conteneurs Docker dédiés et isolés. Les agents peuvent écrire des fichiers, scraper le web et exécuter du code sans toucher au système d'exploitation hôte.
• RAG hybride avancé : Construit un graphe de connaissances persistant avec NetworkX et utilise un Cross-Encoder pour une récupération de contexte précise au-delà de la recherche vectorielle standard.
• Web et vision en direct : S'intègre avec SearxNG local pour le scraping web et Pix2Text pour la vision/OCR locale.
• Limites budgétaires : Inclut un curseur de limite de dépenses quotidienne pour éviter les dépassements d'API cloud.

Gamme de modèles

Le système utilise plusieurs modèles à différentes fins :

• Routage/Logique : Mistral 3B & Qwen 3.5 9B (Local)
• Milieu de gamme/Vitesse : Xiaomi MiMo Flash
• Travail intensif (Secours) : Claude Opus & Perplexity Sonar

Pile technologique

Le projet est construit avec FastAPI, Python, NetworkX, ChromaDB, Docker, Ollama, Playwright et une interface utilisateur inspirée d'un terminal HTML/JS vanilla.

Le développeur se décrit comme "plus un ingénieur mécanique qu'un développeur logiciel" et recherche des retours de développeurs seniors sur l'architecture, en particulier l'approche du bac à sable Docker. Le projet est disponible sur GitHub pour les chercheurs indépendants qui souhaitent exécuter des tâches autonomes sans être liés à un seul fournisseur.