Nullgaze: Выпущен открытую исходный код сканер безопасности с поддержкой ИИ.

Nullgaze — это недавно выпущенный открытый сканер безопасности, специально разработанный для выявления уязвимостей в коде, сгенерированном ИИ. Используя Claude, проект предлагает быстрое выявление проблем, таких как галлюцинированные пакеты npm и утечки ключей Supabase, менее чем за десять секунд на каждый сканируемый URL.
Ключевые детали
Инструмент построен на бэкенде Rust и Axum и фронтенде Next.js 16 и React 19. Уникальный механизм пространственного повторения FSRS-6 настроен на адаптацию своих процессов сканирования, динамически корректируя вероятность ложных срабатываний и усиливая обнаружение подтвержденных угроз. При обнаружении ложного срабатывания модель настраивается на снижение вероятности будущих подобных ошибок, в то время как подтвержденные уязвимости укрепляют модели обнаружения в системе.
Предлагая более 111 сигнатур для обнаружения, Nullgaze специализируется на выявлении уязвимостей, специфичных для ИИ, которые игнорируются устаревшими инструментами, такими как Snyk и Checkmarx. Он эффективно определяет дефекты в политиках безопасности на уровне строк и выявляет анти-шаблоны, сгенерированные ИИ, из таких платформ, как Cursor, Copilot, Lovable и Bolt. Сканер также оснащен игрофицированным пользовательским интерфейсом, вознаграждающим разработчиков очками опыта и значками достижений для содействия регулярным проверкам безопасности.
- Мгновенное сканирование URL без регистрации аккаунта.
- Полный исходный код доступен под лицензией AGPL-3.0.
- 390 тестов в настоящее время определяют его возможности сканирования.
Этот инструмент особенно полезен для разработчиков, которые часто работают с кодом, сгенерированным ИИ, и нуждаются в более адаптивном и активном подходе к сканированию безопасности.
📖 Читать оригинал: r/ClaudeAI
👀 Смотрите также

McpVanguard: Открытый прокси-сервер безопасности для ИИ-агентов на основе MCP
McpVanguard — это трёхуровневый прокси-сервер безопасности и межсетевой экран, который располагается между ИИ-агентами и инструментами MCP, обеспечивая защиту от инъекций в промпты, обхода путей и других атак с задержкой около 16 мс.

Аудит безопасности выявил уязвимости в эталонных серверах MCP компании Anthropic, которые создают риски, связанные с генерацией ложных данных.
Аудит безопасности 100 пакетов серверов MCP показал, что 71% получили оценку F, включая официальные референсные реализации Anthropic для GitHub и файловой системы. Аудит выявил Уязвимости на основе Галлюцинаций, которые создают бреши в безопасности и тратят токены через циклы рассуждений.

Почему внутренние RAG и doc-chat инструменты не проходят аудиты безопасности
Сообщество обсуждает реальные блокеры безопасности и комплаенса, которые не пускают RAG-инструменты в продакшен.

Предупреждение о безопасности: Скрипт ClawProxy похитил API-ключи, что привело к значительному счету от OpenRouter
Разработчик установил закрытый исходный код скрипта ClawProxy от пользователя Reddit на изолированную систему WSL Ubuntu 24.04, который украл его ключ API OpenRouter и использовал его через Google Vertex API, чтобы накрутить крупный счёт на Opus 4.6 за ночь.