ThumbGate реализует паттерн управления агентами на естественном языке от Цинхуа для обеспечения безопасности ИИ.
Реализация ThumbGate шаблона NLAH
Шаблон Natural-Language Agent Harness (NLAH) из статьи университета Цинхуа (arxiv 2603.25723) формализует подход к уровням безопасности ИИ-агентов как к объектам первого класса с конкретными компонентами. Инструмент с открытым исходным кодом ThumbGate реализует этот шаблон с конкретными сопоставлениями для производственных систем.
Сопоставление компонентов
ThumbGate сопоставляет четыре компонента NLAH с практическими реализациями:
- Контракты → Правила предотвращения, автоматически генерируемые из негативных отзывов
- Шлюзы проверки → Хуки PreToolUse, которые перехватывают каждый вызов инструмента перед выполнением
- Устойчивое состояние → База данных уроков SQLite+FTS5, сохраняющаяся между сессиями
- Адаптеры → Адаптеры сервера MCP для Claude Code, Cursor, Codex, Gemini, Amp
Ключевые инсайты реализации
Разработчики обнаружили, что правила в промптах терпят неудачу молча (агенты могут обходить их с помощью рассуждений), тогда как шлюзы проверки терпят неудачу громко (агенты получают ответы о блокировке и должны адаптироваться). Они используют метод Томпсона для обработки неопределенных уровней серьёзности, где новые правила начинаются как предупреждения и повышаются до жёстких блокировок на основе обратной связи.
Полные детали реализации и сопоставления доступны в их подробной документации.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также
ClawProxy: Самостоятельно размещаемый прокси-сервер с маршрутизацией ИИ и панелью управления
ClawProxy — это открытый, самостоятельно размещаемый прокси, который централизует управление несколькими ключами API для ИИ и моделями. Он предоставляет единую конечную точку, интеллектуальную ротацию ключей, резервные провайдеры и журналирование в реальном времени через React-панель управления.
Infracost сокращает использование токенов Claude на 79% за счет перепроектирования CLI для AI-агентов
Infracost перепроектировал свой CLI для вызовов ИИ-агентов, сократив количество выходных токенов Claude на 79% и стоимость API на 67% по сравнению с базовым Claude. Ключевые изменения: перенос предикатов в CLI и выходной формат, эффективный по токенам.
Пленг: Самостоятельно размещаемая облачная платформа с управлением инфраструктурой на основе искусственного интеллекта
Pleng — это платформа для самостоятельного размещения в облаке с открытой лицензией AGPL-3.0, которая использует ИИ-агента (в настоящее время Claude) для управления инфраструктурой через команды бота в Telegram. Она развертывается из репозиториев GitHub или локальных директорий с автоматической маршрутизацией Traefik, SSL-сертификатами Let's Encrypt и базовой аналитикой.
Blip MCP Server: Отображать изменения пользовательского интерфейса для кода Claude вместо их описания
Blip — это MCP-сервер для Claude Code, который заменяет словесные описания изменений интерфейса визуальными аннотациями. Вы рисуете прямо на работающем приложении, а Claude пишет соответствующий код на основе аннотированного скриншота.