Сканер локального внедрения промптов в модели для безопасности AI-навыков
Уязвимость безопасности в навыках ИИ
Обсуждение на X выявило серьёзный недостаток безопасности в сторонних навыках ИИ. Claude Code поддерживает оператор ! для непосредственного выполнения bash-команд внутри навыков, но эти операторы могут быть скрыты в HTML-тегах, что приводит к выполнению bash-команд, о которых ИИ может не знать.
Реализация локального сканера
Был создан концептуальный инструмент для сканирования навыков на потенциальное внедрение вредоносного кода во время установки. Сканер использует модель без вызова инструментов, работающую локально, в частности mistral-small:latest на Ollama. Создатель сообщает, что он "работал идеально" во время тестирования.
Этот подход функционирует аналогично антивирусному сканеру и может быть интегрирован в будущий продукт "установщик навыков". Защита от инъекций в промпты определена как перспективное применение локальных моделей.
Технические детали
Уязвимость связана с оператором ! в Claude Code, который позволяет напрямую выполнять bash-команды. Злоумышленники могут скрывать эти операторы внутри HTML-тегов, потенциально выполняя вредоносные команды без ведома ИИ. Сканер решает эту проблему, анализируя навыки перед установкой для обнаружения таких скрытых инъекций.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Надежно установите OpenClaw на VPS с помощью Tailscale и других инструментов.
Пользователи OpenClaw, ищущие безопасную настройку для самостоятельного размещения, должны рассмотреть эти меры для повышения безопасности и минимизации рисков. Настройка придает первостепенное значение безопасности, используя Tailscale для устранения прямого публичного доступа и внедрения стратегий многослойной защиты, таких как усиление SSH, <code>fail2ban</code> для защиты от атак методом подбора пароля, <code>UFW</code> для управления файрволом и обеспечение автоматических обновлений для вашей системы.
Плагин безопасности Claude Code: Внедрение AppSec в рабочий процесс разработчика
Anthropic выпустил плагин безопасности для Claude Code, который находит и исправляет уязвимости во время написания кода. Он доступен всем пользователям через маркетплейс, а не только Enterprise. Обсуждается, станет ли он легковесным помощником, серьезным слоем AppSec или мостом к Claude Security.
FastCGI: 30 лет, и всё ещё лучший протокол для обратных прокси
FastCGI избегает HTTP-десинхронизации и проблем с ненадежными заголовками, используя явную фреймовую структуру сообщений и отдельные каналы параметров, что делает его более безопасным выбором для взаимодействия между прокси и бэкендом.
Отчет OpenAI об угрозах за июнь 2026 года: ИИ-агенты используются для вредоносной деятельности
Последний отчет OpenAI об угрозах показывает, как AI-агенты используются для дезинформации, фишинга и мошенничества, с конкретными данными об инцидентах и стратегиями смягчения последствий.