ThumbGate реализует паттерн управления агентами на естественном языке от Цинхуа для обеспечения безопасности ИИ.
Реализация ThumbGate шаблона NLAH
Шаблон Natural-Language Agent Harness (NLAH) из статьи университета Цинхуа (arxiv 2603.25723) формализует подход к уровням безопасности ИИ-агентов как к объектам первого класса с конкретными компонентами. Инструмент с открытым исходным кодом ThumbGate реализует этот шаблон с конкретными сопоставлениями для производственных систем.
Сопоставление компонентов
ThumbGate сопоставляет четыре компонента NLAH с практическими реализациями:
- Контракты → Правила предотвращения, автоматически генерируемые из негативных отзывов
- Шлюзы проверки → Хуки PreToolUse, которые перехватывают каждый вызов инструмента перед выполнением
- Устойчивое состояние → База данных уроков SQLite+FTS5, сохраняющаяся между сессиями
- Адаптеры → Адаптеры сервера MCP для Claude Code, Cursor, Codex, Gemini, Amp
Ключевые инсайты реализации
Разработчики обнаружили, что правила в промптах терпят неудачу молча (агенты могут обходить их с помощью рассуждений), тогда как шлюзы проверки терпят неудачу громко (агенты получают ответы о блокировке и должны адаптироваться). Они используют метод Томпсона для обработки неопределенных уровней серьёзности, где новые правила начинаются как предупреждения и повышаются до жёстких блокировок на основе обратной связи.
Полные детали реализации и сопоставления доступны в их подробной документации.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также
Knowledge Raven: Кросс-модельная платформа базы знаний, созданная с помощью Claude Code
Knowledge Raven — это платформа базы знаний, которая позволяет любому LLM, совместимому с MCP, искать и цитировать корпоративные документы. Вся платформа была создана с помощью Claude Code одним основателем и включает бэкенд на Python/FastAPI, слой инструментов MCP и агентный RAG-конвейер.
Claude Code получает проверку моделей TLA+ через MCP-сервер tla-mcp
tla-mcp — это новый MCP-сервер, который позволяет Claude Code вызывать модель-чекер TLA+ tla-rs как первоклассный инструмент: проверять спецификации, выполнять ограниченные проверки с трассировкой контрпримеров и воспроизводить сценарии прямо из чата.
Strata: семантический слой, который отклоняет неверные запросы до того, как их выполнит ваша LLM
Strata — это полноценный семантический слой, созданный бывшим инженером Netflix, который проверяет и отклоняет семантически некорректные запросы до их выполнения, с маршрутизацией с учётом партиций по ClickHouse, Druid, Snowflake и Athena.
Сервер поиска MCP с ранжированием на основе обратной связи для Claude Desktop
Сообщество создало MCP-сервер поиска для Claude Desktop, который запускает поисковые системы Exa и Tavily параллельно без необходимости в API-ключах. После использования результата пользователи сообщают, сработал ли он, через инструмент outcome, который передает обратную связь в систему ранжирования для приоритизации URL-адресов, помогающих агентам добиваться успеха.