Черный LLAB: Открытая архитектура для динамической маршрутизации моделей и докер-изолированных ИИ-агентов
Разработчик выпустил Black LLAB — проект с открытым исходным кодом, который пытается воспроизвести системы передовых AI-лабораторий для автономного выполнения задач. Система решает две основные проблемы: ручное принятие решений о том, какую модель использовать для разных запросов, и безопасное выполнение кода ИИ-агентов.
Компоненты архитектуры
Система состоит из нескольких ключевых компонентов:
- Динамическая маршрутизация сложности: Использует Mistral 3B Instruct для оценки запросов по шкале от 1 до 100. Простые вопросы направляются к быстрым/дешёвым моделям; сложные задачи программирования — к мощным моделям с применением XML-формирования контекста "Lost in the Middle".
- Агенты в Docker-песочницах: Интегрирует OpenClaw для развёртывания агентов в выделенных, изолированных контейнерах Docker. Агенты могут записывать файлы, сканировать веб и выполнять код, не затрагивая основную ОС.
- Продвинутый гибридный RAG: Создаёт постоянный граф знаний с использованием NetworkX и применяет Cross-Encoder для точного извлечения контекста, выходящего за рамки стандартного векторного поиска.
- Работа с вебом и изображениями в реальном времени: Интегрируется с локальным SearxNG для веб-скрапинга и Pix2Text для локального распознавания изображений/OCR.
- Бюджетные ограничители: Включает ползунок дневного лимита расходов для предотвращения перерасхода облачных API.
Набор моделей
Система использует несколько моделей для разных целей:
- Маршрутизация/логика: Mistral 3B & Qwen 3.5 9B (локально)
- Средний уровень/скорость: Xiaomi MiMo Flash
- Сложные задачи (резервный вариант): Claude Opus & Perplexity Sonar
Технологический стек
Проект построен на FastAPI, Python, NetworkX, ChromaDB, Docker, Ollama, Playwright и минималистичном HTML/JS-интерфейсе, вдохновлённом терминалом.
Разработчик описывает себя как "скорее инженера-механика, чем программиста" и ищет отзывы опытных разработчиков об архитектуре, особенно о подходе с Docker-песочницами. Проект доступен на GitHub для независимых исследователей, которые хотят запускать автономные задачи, не привязываясь к одному провайдеру.
📖 Read the full source: r/openclaw
👀 Смотрите также
Агент Форж: Инструмент с открытым исходным кодом для создания каркасов многокомпонентных конвейеров для Claude Code
Agent Forge — это навык Claude Code, который генерирует полные конвейеры мультиагентных систем на основе описаний вариантов использования. Он создает файлы промптов, скрипты оркестратора, директории для потока данных и конфигурации GitHub Actions, основываясь на паттернах, наблюдаемых в существующих мультиагентных системах.
Создание голосового агента с задержкой менее 500 мс: архитектура и анализ производительности
Разработчик создал голосового агента с нуля, достигнув сквозной задержки около 400 мс с полной потоковой обработкой STT → LLM → TTS. Ключевые идеи включают рассмотрение голоса как проблемы очередности реплик, использование семантического определения конца реплики и размещение всех компонентов в одном месте для минимальной задержки.
Повторное использование кэша ключей-значений для длинных диалогов на Apple Silicon обеспечивает ускорение в 200 раз
Разработчик реализовал повторное использование кэша KV на основе сессий для локального вывода LLM с использованием фреймворка MLX от Apple, достигнув 200-кратного улучшения времени до первого токена при длине контекста 100K. Подход сохраняет кэш KV в памяти между поворотами разговора, обрабатывая только новые токены.
Почему ИИ-охотники за головами теряют деньги: данные 60 выпусков
Разработчик попытался заставить Claude зарабатывать деньги на открытых баунти с бюджетом в $20 на токены. Просканировав более 80 баунти на Algora, он обнаружил, что большинство из них засорены 10+ открытыми PR, спамом за $1 или зарезервированы для собеседований. Ожидаемый доход: $0.