Sandbox0: Открытая инфраструктура песочницы на основе Kubernetes для ИИ-агентов

Sandbox0 — это инфраструктура песочницы с открытым исходным кодом, специально разработанная для ИИ-агентов. В настоящее время проект активно развивается, а также планируется запуск облачного SaaS-сервиса. Проект решает несколько проблем, с которыми сталкиваются разработчики при использовании существующих решений для песочниц.

Ключевые особенности

В источнике выделены следующие конкретные возможности:

• Облачное масштабирование: Построено на Kubernetes с автоматическим масштабированием. Параллельная обработка масштабируется в соответствии с возможностями вашего кластера, а не искусственными ограничениями. Вы можете запустить 1000+ параллельных песочниц, если ваш кластер это поддерживает.
• Постоянное хранилище: Используются тома на основе JuiceFS с рабочими процессами создания снимков, восстановления и ветвления. Это позволяет агентам для кодирования создавать контрольные точки работы, возобновлять с любого состояния или создавать ветки для изучения различных подходов. Состояние сохраняется при перезапуске подов.
• Удобство для самостоятельного хостинга: Архитектура, родственная Kubernetes, которая работает на EKS, GKE, AKS или локально. Установка выполняется через helm install без необходимости оркестрации с помощью Nomad или Terraform.
• Управление сетью: Встроенный netd для применения политик на уровнях L4/L7, позволяющий ограничивать доступ вашего агента к определённым API.

Технологический стек

В источнике указаны следующие технические компоненты:

• Горячие пулы песочниц для запуска за 100-200 мс
• procd в качестве PID=1 для управления процессами
• JuiceFS для постоянных томов
• Архитектура, родственная Kubernetes

Постановка проблемы

В источнике определены следующие проблемы существующих решений:

• Ограничения на параллельную обработку: Тарифный план E2B за $150/месяц ограничен 100 параллельными песочницами
• Эфемерное исполнение: Песочницы сбрасываются между сеансами, что приводит к потере состояния, файлов и прогресса
• Сложность самостоятельного хостинга: Требует Terraform + Nomad + значительного опыта в эксплуатации

Текущий статус

Sandbox0 имеет открытый исходный код и активно развивается. Создатель ищет ранних пользователей и обратную связь, а также интересуется, какие функции побудили бы разработчиков попробовать новое решение для песочниц.

Информация об источнике

Проект доступен по адресу github.com/sandbox0-ai/sandbox0 и был опубликован на r/LocalLLaMA пользователем /u/Artistic-Cap-1076.