Черный LLAB: Открытая архитектура для динамической маршрутизации моделей и докер-изолированных ИИ-агентов

Разработчик выпустил Black LLAB — проект с открытым исходным кодом, который пытается воспроизвести системы передовых AI-лабораторий для автономного выполнения задач. Система решает две основные проблемы: ручное принятие решений о том, какую модель использовать для разных запросов, и безопасное выполнение кода ИИ-агентов.

Компоненты архитектуры

Система состоит из нескольких ключевых компонентов:

• Динамическая маршрутизация сложности: Использует Mistral 3B Instruct для оценки запросов по шкале от 1 до 100. Простые вопросы направляются к быстрым/дешёвым моделям; сложные задачи программирования — к мощным моделям с применением XML-формирования контекста "Lost in the Middle".
• Агенты в Docker-песочницах: Интегрирует OpenClaw для развёртывания агентов в выделенных, изолированных контейнерах Docker. Агенты могут записывать файлы, сканировать веб и выполнять код, не затрагивая основную ОС.
• Продвинутый гибридный RAG: Создаёт постоянный граф знаний с использованием NetworkX и применяет Cross-Encoder для точного извлечения контекста, выходящего за рамки стандартного векторного поиска.
• Работа с вебом и изображениями в реальном времени: Интегрируется с локальным SearxNG для веб-скрапинга и Pix2Text для локального распознавания изображений/OCR.
• Бюджетные ограничители: Включает ползунок дневного лимита расходов для предотвращения перерасхода облачных API.

Набор моделей

Система использует несколько моделей для разных целей:

• Маршрутизация/логика: Mistral 3B & Qwen 3.5 9B (локально)
• Средний уровень/скорость: Xiaomi MiMo Flash
• Сложные задачи (резервный вариант): Claude Opus & Perplexity Sonar

Технологический стек

Проект построен на FastAPI, Python, NetworkX, ChromaDB, Docker, Ollama, Playwright и минималистичном HTML/JS-интерфейсе, вдохновлённом терминалом.

Разработчик описывает себя как "скорее инженера-механика, чем программиста" и ищет отзывы опытных разработчиков об архитектуре, особенно о подходе с Docker-песочницами. Проект доступен на GitHub для независимых исследователей, которые хотят запускать автономные задачи, не привязываясь к одному провайдеру.