Уязвимость OpenClaw: 42,000 случаев раскрытия данных
OpenClaw столкнулся с серьезным нарушением безопасности, в результате которого 42,000 экземпляров были раскрыты, а также 341 вредоносный навык на рынке. Были выявлены пять уязвимостей (CVE), что указывает на серьезность проблемы. В ответ на это был разработан AgentVault, который выступает в роли прокси-сервера безопасности, оборачиваясь вокруг агентов Claude и обеспечивая мониторинг и управление операциями в реальном времени.
Ключевые функции AgentVault включают:
- Блокировка опасных команд, таких как
rm -rf, и подозрительных сетевых запросов до их выполнения. - Панель управления в реальном времени, отображающая каждое действие, предпринятое Claude.
- Механизмы утверждения разрешений для рискованных операций.
- Всеобъемлющее сетевое мониторинг, ограничение скорости и функциональность сканирования учетных данных.
- Полный журнал аудита для отслеживания всех действий.
Это решение использует прокси на Node.js, SQLite для журналирования и панель на основе Next.js. Примечательно, что AgentVault был создан за 3 часа из-за срочности ситуации. Его исходный код был опубликован как открытый и доступен для просмотра на GitHub.
Инцидент и быстрое развитие AgentVault поднимают вопросы о мерах безопасности, установленных для локальных установок, использующих AI-кодирующие агенты. Какие протоколы безопасности вы используете?
📖 Читать полный источник: r/LocalLLaMA
👀 Смотрите также
Агент безопасности AgentSeal обнаружил риски ИИ-агентов в сервере Blender MCP.
AgentSeal просканировал сервер Blender MCP (17 тысяч звёзд) и выявил несколько проблем безопасности, актуальных для ИИ-агентов, включая произвольное выполнение Python-кода, потенциальные цепочки эксфильтрации файлов и паттерны инъекции промптов в описаниях инструментов.
ИИ разрушает две культуры уязвимостей: скоординированное раскрытие против принципа Linux «Ошибки есть ошибки»
Джефф Кауфман анализирует, как обнаружение уязвимостей с помощью ИИ разрушает как скоординированное раскрытие, так и культуру тихих исправлений в Linux, на примере недавней уязвимости Copy Fail (ESP).
Проблема униформированной охраны: Почему агентские песочницы нуждаются в идентичности, а не просто в политике
Проблема sandbox-ов AI-агентов, таких как openshell от Nemoclaw, заключается в применении политик безопасности к бинарным файлам, а не к агентам. Это позволяет вредоносному ПО жить за счет использования тех же бинарных файлов, что и агент. ZeroID, открытый слой идентификации агентов, применяет политики безопасности к агентам, подкрепленным безопасными идентификаторами.
