Уязвимость OpenClaw: 42,000 случаев раскрытия данных

OpenClaw столкнулся с серьезным нарушением безопасности, в результате которого 42,000 экземпляров были раскрыты, а также 341 вредоносный навык на рынке. Были выявлены пять уязвимостей (CVE), что указывает на серьезность проблемы. В ответ на это был разработан AgentVault, который выступает в роли прокси-сервера безопасности, оборачиваясь вокруг агентов Claude и обеспечивая мониторинг и управление операциями в реальном времени.
Ключевые функции AgentVault включают:
- Блокировка опасных команд, таких как
rm -rf, и подозрительных сетевых запросов до их выполнения. - Панель управления в реальном времени, отображающая каждое действие, предпринятое Claude.
- Механизмы утверждения разрешений для рискованных операций.
- Всеобъемлющее сетевое мониторинг, ограничение скорости и функциональность сканирования учетных данных.
- Полный журнал аудита для отслеживания всех действий.
Это решение использует прокси на Node.js, SQLite для журналирования и панель на основе Next.js. Примечательно, что AgentVault был создан за 3 часа из-за срочности ситуации. Его исходный код был опубликован как открытый и доступен для просмотра на GitHub.
Инцидент и быстрое развитие AgentVault поднимают вопросы о мерах безопасности, установленных для локальных установок, использующих AI-кодирующие агенты. Какие протоколы безопасности вы используете?
📖 Читать полный источник: r/LocalLLaMA
👀 Смотрите также

LiteLLM v1.82.8 Компрометация использует файл .pth для постоянного выполнения
LiteLLM v1.82.8 была скомпрометирована на PyPI и содержит файл .pth, который выполняет произвольный код при каждом запуске процесса Python, а не только при импорте библиотеки. Полезная нагрузка выполняется даже если LiteLLM установлена как транзитивная зависимость и никогда не используется напрямую.

Открытая площадка для тестирования на проникновение ИИ-агентов с опубликованными уязвимостями.
Fabraix открыла исходный код живой среды для стресс-тестирования защит ИИ-агентов с помощью состязательных испытаний. Каждое испытание разворачивает живого агента с реальными инструментами и опубликованными системными промптами, а выигрышные транскрипты диалогов и логи защитных механизмов документируются публично.

Агентский паспорт: Проверка身份 для ИИ-агентов
Agent Passport — это открытый слой проверки личности, использующий аутентификацию Ed25519 и токены JWT для ИИ-агентов, который решает проблему impersonating (выдачи себя за другого).

Сообщается, что приложение Claude для Android читает буфер обмена без явного действия пользователя
Пользователь сообщает, что приложение Claude для Android проанализировало код из его буфера обмена без вставки, при этом Claude определил файл как pasted_text_b4a56202-3d12-43c8-aa31-a39367a9a354.txt. Поведение не удалось воспроизвести в последующих тестах.