McpVanguard: Открытый прокси-сервер безопасности для ИИ-агентов на основе MCP

McpVanguard — это открытый прокси-сервер безопасности и межсетевой экран, разработанный специально для локальных ИИ-агентов, использующих Model Context Protocol (MCP). Он решает проблемы безопасности, возникающие при предоставлении LLM доступа к таким инструментам, как терминалы или файловые системы.
Как это работает
Прокси располагается между ИИ-агентом и инструментами MCP, оборачивая существующие MCP-серверы без необходимости переписывания настроек. Он может работать локально как лёгкий прокси или быть развёрнут как облачный шлюз, с доступным шаблоном Railway для более простого развёртывания.
Уровни безопасности
- Движок правил/сигнатур: Содержит около 50 YAML-сигнатур, которые обнаруживают распространённые атаки, такие как обратные оболочки, попытки SSRF и другие очевидные угрозы. Этот уровень добавляет примерно 16 мс задержки.
- Семантический оценочный уровень (опционально): Когда запросы выглядят подозрительно, но не явно вредоносными, они могут быть оценены небольшой LLM (Ollama или OpenAI), которая анализирует намерения.
- Мониторинг поведения: Блокирует аномальные паттерны, например, попытки агента прочитать сотни файлов за короткое время.
Возможности аудита
Каждый заблокированный запрос записывается в неизменяемый журнал аудита, который криптографически подписывается и хранится локально, предоставляя проверяемую запись о том, что было заблокировано и почему.
Инструмент был разработан для решения конкретных проблем безопасности в реализациях MCP, включая инъекции в промпты, обход путей и случайное удаление каталогов ИИ-агентами.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также

Мошеннический инструмент Roblox и ИИ вызвали сбой платформы Vercel.
Сообщается, что читерская программа для Roblox в сочетании с инструментом искусственного интеллекта вызвала полный сбой платформы Vercel, что привело к активному обсуждению на Hacker News с 66 баллами и 24 комментариями.

Функция использования компьютера от Anthropic вызывает блокировку управления в реальном тесте.
Anthropic внедрила возможности использования компьютера, и во время реализации механизмов управления сработал порог риска, который привёл к режиму БЛОКИРОВКИ, заблокировав все операции изменения, включая работу самого оператора по управлению.

Почему внутренние RAG и doc-chat инструменты не проходят аудиты безопасности
Сообщество обсуждает реальные блокеры безопасности и комплаенса, которые не пускают RAG-инструменты в продакшен.

Pro Se原告在法庭文件中隐藏AI提示注入
Житель Коннектикута, представлявший себя в суде, спрятал в официальных документах инструкции для ИИ, приказывая любой ИИ-системе, которая их прочитает, встать на его сторону. Текст был набран белым шрифтом размером 3 пункта, невидимым для людей, но читаемым для программ. Суд обнаружил это и наложил санкции на подавшего документы.