Изоляция локальных ИИ-агентов с помощью микро-ВМ Firecracker
Подход к безопасности для локальных ИИ-агентов
Разработчик на r/LocalLLaMA поделился своим подходом к изоляции выполнения ИИ-агентов для решения проблем безопасности. Он отметил, что большинство локальных настроек ИИ-агентов выполняют код напрямую на хост-машине, что может позволить скомпрометированному агенту удалять файлы или повреждать систему.
Техническая реализация
Решение включает изоляцию выполнения агента внутри микро-ВМ Firecracker. Firecracker — это та же технология микро-ВМ, которая используется в AWS Lambda, обеспечивая быстрое время запуска всего за несколько секунд.
Реализация включает:
- Загрузку облегчённой ВМ Alpine Linux
- Предоставление агенту Python, bash и git внутри ВМ
- Использование vsock для связи (сеть не требуется)
- Уничтожение ВМ при возникновении проблем
Разработчик обернул это в небольшую песочницу, которая может подключаться к Claude Desktop через MCP (Model Context Protocol).
Текущие ограничения
Текущая реализация имеет несколько ограничений:
- Поддерживает только одну песочницу ВМ одновременно
- Требует Linux с KVM или WSL2
- Требует привилегий sudo
- Находится на ранних стадиях разработки
Разработчик ищет отзывы от других, экспериментирующих с изоляцией выполнения агентов для MCP или локальных агентов.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Кейлгард: Открытый сканер безопасности для навыков OpenClaw
Caelguard — это сканер с лицензией MIT, работающий локально, который обнаруживает проблемы безопасности в навыках OpenClaw, включая инъекцию промптов, сбор учетных данных и обфусцированные полезные нагрузки. Исследования показывают, что примерно 20% опубликованных навыков содержат тревожные паттерны.
Три альтернативы с открытым исходным кодом для litellm после атаки на цепочку поставок PyPI
Версии litellm 1.82.7 и 1.82.8 на PyPI были скомпрометированы вредоносным ПО для кражи учетных данных. Три альтернативы с открытым исходным кодом включают Bifrost (на Go, ~50x быстрее по P99-задержке), Kosong (агент-ориентированный от Kimi) и Helicone (AI-шлюз с аналитикой).
Ядро Linux предлагает децентрализованную систему идентификации для замены сети доверия PGP.
Разработчики ядра Linux работают над децентрализованным уровнем идентификации под названием Linux ID, который должен заменить нынешнюю сеть доверия PGP. Система использует децентрализованные идентификаторы (DID) в стиле W3C и верифицируемые учетные данные для аутентификации разработчиков без необходимости проведения очных сессий подписания ключей.
Атака на цепочку поставок использует невидимые символы Юникода для обхода обнаружения.
Исследователи обнаружили 151 вредоносный пакет, загруженный на GitHub с 3 по 9 марта, в которых использовались невидимые символы Юникода для скрытия вредоносного кода. Атака нацелена на репозитории GitHub, NPM и Open VSX с пакетами, которые выглядят легитимными, но содержат скрытые полезные нагрузки.