Два новых инструмента с открытым исходным кодом для безопасности и оптимизации ИИ-агентов

Сообщество r/openclaw поделилось двумя инструментами с открытым исходным кодом для разработчиков ИИ-агентов: AI Agent Defense Kit (выпущен) и AgentGuard (в разработке).

AI Agent Defense Kit

Это бесплатный набор инструментов безопасности с навыками защиты в режиме реального времени для ИИ-агентов. Доступные навыки включают:

• skill-auditor - Проверка навыков перед установкой на наличие признаков угроз безопасности
• url-preflight - Проверка URL-адресов перед тем, как ваш агент их загрузит
• content-scanner - Сканирование контента на скрытые инструкции
• social-engineering-detector - Обнаружение тактик манипуляции в сообщениях
• dependency-checker - Проверка пакетов на атаки через цепочку поставок

Репозиторий доступен по адресу: https://github.com/moebius-ansa/ai-agent-defense-kit

AgentGuard

Этот набор инструментов (в разработке) решает три распространённые проблемы: непредсказуемые затраты из-за сжигания токенов автономными ИИ-системами, отсутствие журналов аудита, показывающих действия агентов, и входящие угрозы безопасности до того, как контент достигнет агентов.

Планируемые функции при запуске включают:

• Cost Estimator - Автоматически рассчитывает ежемесячные затраты по модели + уровню использования
• Model Comparison - Сравнивает 20+ моделей от разных провайдеров с оценками качества; заявляет о возможности экономии 90%+ при эквивалентном качестве
• Security Scanner - Обнаруживает инъекции промптов, взломы, утечки системных промптов и другие атаки до того, как они достигнут вашего агента
• Activity Monitor - Отслеживает изменения файлов, вызовы API, активность процессов
• Budget and Activity Alerts - Получайте уведомления в Discord, Slack, Telegram и т.д. при обнаружении необычной активности или резких скачков затрат

Установка будет осуществляться через: pip install agentguard

Инструмент будет иметь интуитивно понятный TUI-интерфейс и режим агента, который позволяет вашему агенту управлять платформой за вас.

Эти инструменты решают практические проблемы разработчиков, запускающих ИИ-агентов, особенно в области мониторинга безопасности и управления затратами.