Изоляция локальных ИИ-агентов с помощью микро-ВМ Firecracker
Подход к безопасности для локальных ИИ-агентов
Разработчик на r/LocalLLaMA поделился своим подходом к изоляции выполнения ИИ-агентов для решения проблем безопасности. Он отметил, что большинство локальных настроек ИИ-агентов выполняют код напрямую на хост-машине, что может позволить скомпрометированному агенту удалять файлы или повреждать систему.
Техническая реализация
Решение включает изоляцию выполнения агента внутри микро-ВМ Firecracker. Firecracker — это та же технология микро-ВМ, которая используется в AWS Lambda, обеспечивая быстрое время запуска всего за несколько секунд.
Реализация включает:
- Загрузку облегчённой ВМ Alpine Linux
- Предоставление агенту Python, bash и git внутри ВМ
- Использование vsock для связи (сеть не требуется)
- Уничтожение ВМ при возникновении проблем
Разработчик обернул это в небольшую песочницу, которая может подключаться к Claude Desktop через MCP (Model Context Protocol).
Текущие ограничения
Текущая реализация имеет несколько ограничений:
- Поддерживает только одну песочницу ВМ одновременно
- Требует Linux с KVM или WSL2
- Требует привилегий sudo
- Находится на ранних стадиях разработки
Разработчик ищет отзывы от других, экспериментирующих с изоляцией выполнения агентов для MCP или локальных агентов.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
ЭктоКоготь: Инструмент безопасности для агентов OpenClaw с доступом к терминалу
EctoClaw — это бесплатный инструмент безопасности с открытым исходным кодом для OpenClaw, который проверяет каждое действие четыре раза перед выполнением, запускает действия в защищённой песочнице и записывает всё с доказательствами.
Тестирование моделей Qwen 3.5 35B без цензуры на вопросы по кибербезопасности.
Специалист по кибербезопасности протестировал три нецензурированные модели Qwen 3.5 35B на вопросы о взломе и обходе защиты, обнаружив значительные различия в качестве ответов по сравнению с исходной цензурированной моделью. Нецензурированные модели последовательно предоставляли ответы там, где исходная модель отказывалась или давала неполные ответы.
Расширение Claude Code для VS Code раскрывает состояние выделения в закрытых файлах и новых сессиях
Ошибка в расширении Claude Code для VS Code приводит к кешированию состояния выделения файла даже после его закрытия, что позволяет получить доступ к конфиденциальным данным (например, ключам сервис-роли Supabase) в новой сессии CLI. Полные шаги воспроизведения и GitHub issue #58886.
Агент CodeWall AI обнаружил критические уязвимости в платформе Lilli компании McKinsey
Автономный атакующий ИИ-агент CodeWall получил полный доступ на чтение и запись к внутренней базе данных ИИ-платформы Lilli компании McKinsey менее чем за 2 часа, раскрыв 46,5 миллионов сообщений чата, 728 000 файлов и конфиденциальные системные конфигурации через уязвимости SQL-инъекций и IDOR.