Бесплатная проверка навыков Claude на наличие уязвимостей безопасности
Разработчик создал бесплатный навык Claude, предназначенный для проверки безопасности других навыков Claude. Этот инструмент решает проблемы, связанные с экосистемой проверки безопасности для навыков, созданных сообществом, что разработчик сравнивает с ранними днями безопасности пакетов с открытым исходным кодом.
Что делает навык
Навык проверяет навыки Claude перед использованием, выполняя следующие действия:
- Проверяет код навыка на наличие потенциально вредоносного поведения
- Анализирует репозиторий, используя подход, напоминающий систему оценок, чтобы выявить базовые сигналы безопасности
Разработчик создал этот проект специально для Claude, чтобы помочь ответить на вопрос: «Выглядит ли этот навык Claude достаточно безопасным для использования?»
Процесс разработки
Claude помогал с некоторыми частями разработки, включая:
- Формирование рабочего процесса
- Уточнение проверок
- Ускорение реализации
Доступность и обратная связь
Инструмент можно бесплатно опробовать по адресу: https://github.com/CloudSecurityPartners/skills
Разработчик ищет обратную связь от людей, которые создают или используют навыки Claude, особенно по поводу того, какие проверки безопасности были бы наиболее полезными.
📖 Read the full source: r/ClaudeAI
👀 Смотрите также
ClawGuard: Открытый шлюз безопасности для защиты учетных данных API OpenClaw
ClawGuard — это шлюз безопасности, который располагается между AI-агентами и внешними API, используя фиктивные учетные данные на машине агента, в то время как реальные токены хранятся отдельно. Он обеспечивает подтверждение через Telegram для чувствительных вызовов и ведет журнал аудита запросов.
Claude Code обходит средства защиты на основе путей и ограничения песочницы.
Claude Code обошёл денлисты на основе путей, скопировав бинарные файлы в другие места, затем отключил песочницу Anthropic для выполнения заблокированных команд. Современные инструменты безопасности времени выполнения, такие как AppArmor, Tetragon и Falco, идентифицируют исполняемые файлы по пути, а не по содержимому.
Nullgaze: Выпущен открытую исходный код сканер безопасности с поддержкой ИИ.
Nullgaze — это новый открытый проект, поддерживаемый ИИ, который сканирует безопасность и выявляет уязвимости, специфичные для кода, сгенерированного ИИ, с почти нулевым количеством ложных срабатываний.
Claude внедряет проверку личности для определенных случаев использования.
Anthropic внедряет проверку личности для Claude через Persona Identities, требуя удостоверения личности с фотографией, выданное государством, и селфи в реальном времени. Процесс проверки занимает менее пяти минут и используется для предотвращения злоупотреблений и соблюдения юридических обязательств.