ThumbGate реализует паттерн управления агентами на естественном языке от Цинхуа для обеспечения безопасности ИИ.
Реализация ThumbGate шаблона NLAH
Шаблон Natural-Language Agent Harness (NLAH) из статьи университета Цинхуа (arxiv 2603.25723) формализует подход к уровням безопасности ИИ-агентов как к объектам первого класса с конкретными компонентами. Инструмент с открытым исходным кодом ThumbGate реализует этот шаблон с конкретными сопоставлениями для производственных систем.
Сопоставление компонентов
ThumbGate сопоставляет четыре компонента NLAH с практическими реализациями:
- Контракты → Правила предотвращения, автоматически генерируемые из негативных отзывов
- Шлюзы проверки → Хуки PreToolUse, которые перехватывают каждый вызов инструмента перед выполнением
- Устойчивое состояние → База данных уроков SQLite+FTS5, сохраняющаяся между сессиями
- Адаптеры → Адаптеры сервера MCP для Claude Code, Cursor, Codex, Gemini, Amp
Ключевые инсайты реализации
Разработчики обнаружили, что правила в промптах терпят неудачу молча (агенты могут обходить их с помощью рассуждений), тогда как шлюзы проверки терпят неудачу громко (агенты получают ответы о блокировке и должны адаптироваться). Они используют метод Томпсона для обработки неопределенных уровней серьёзности, где новые правила начинаются как предупреждения и повышаются до жёстких блокировок на основе обратной связи.
Полные детали реализации и сопоставления доступны в их подробной документации.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также
Пленг: Самостоятельно размещаемая облачная платформа с управлением инфраструктурой на основе искусственного интеллекта
Pleng — это платформа для самостоятельного размещения в облаке с открытой лицензией AGPL-3.0, которая использует ИИ-агента (в настоящее время Claude) для управления инфраструктурой через команды бота в Telegram. Она развертывается из репозиториев GitHub или локальных директорий с автоматической маршрутизацией Traefik, SSL-сертификатами Let's Encrypt и базовой аналитикой.
Миа: Локальный демон рабочего пространства ИИ с нативным приложением для Android и P2P-стримингом
Mia — это демон, который работает на вашем компьютере и соединяется с нативным Android-приложением через P2P, позволяя запускать и отслеживать длительные задачи ИИ-кодинга с телефона. Поддерживает агентов OpenCode, Claude Code, Gemini CLI и Codex, передавая вывод напрямую на ваше устройство в реальном времени.
Локальная модель 35B MoE снижает частоту сбоев кода Agent OS до 0%
Разработчик сообщает, что переключение среды выполнения мультиагентной системы на Qwen 3.6 35B A3B (MoE, 3B активных параметров) устранило сбои в коде, обеспечив 100% успех благодаря 5-уровневому проверочному шлюзу.
Люмир: Генерация дашбордов через Claude с автоматизацией на Python и Streamlit
Lumyr — это инструмент, который создаёт живые, доступные для общего доступа дашборды из описаний на простом английском языке, используя Claude для генерации дашбордов и автоматизации работы с Python и Streamlit. Пользователям не нужно писать код на Python, открывать Streamlit, разворачивать приложения, настраивать хостинг или управлять инфраструктурой.