Nullgaze: Open-Source AI-unterstützter Sicherheitsscanner veröffentlicht

Nullgaze ist ein neu veröffentlichter, Open-Source-Sicherheits-Scanner, der speziell entwickelt wurde, um Schwachstellen im AI-generierten Code zu erkennen. Mit Hilfe von Claude bietet das Projekt eine schnelle Identifizierung von Problemen wie halluzinierten npm-Paketen und Expositionen von Supabase-Schlüsseln in weniger als zehn Sekunden pro URL-Scan.
Wichtige Details
Das Tool basiert auf einem Rust- und Axum-Backend sowie einem Next.js 16 und React 19-Frontend. Die FSRS-6-Spaced-Repetition-Engine von Nullgaze passt die Scan-Prozesse an, indem sie die Wahrscheinlichkeit von falschen Positiven dynamisch anpasst und die Erkennung bestätigter Bedrohungen verstärkt. Bei der Erkennung eines falschen Positiven wird das Modell so eingestellt, dass die Wahrscheinlichkeit zukünftiger ähnlicher Fehlidentifikationen sinkt, während bestätigte Schwachstellen die Erkennungsmuster des Systems verstärken.
Mit über 111 Erkennungssignaturen spezialisiert sich Nullgaze auf die Identifizierung von AI-spezifischen Schwachstellen, die von traditionellen Tools wie Snyk und Checkmarx ignoriert werden. Es identifiziert effektiv Mängel in Row Level Security-Richtlinien und erkennt AI-generierte Anti-Pattern von Plattformen wie Cursor, Copilot, Lovable und Bolt. Der Scanner verfügt auch über eine spielerische Benutzeroberfläche, die Entwickler mit Erfahrungspunkten und Erfolgsabzeichen belohnt, um für regelmäßige Sicherheitsüberprüfungen zu werben.
- Sofortiger URL-Scan ohne Kontoanmeldung.
- Vollständiger Quellcode unter der AGPL-3.0-Lizenz verfügbar.
- 390 Tests definieren derzeit seine Scanfähigkeiten.
Dieses Tool ist besonders vorteilhaft für Entwickler, die häufig mit AI-generiertem Code arbeiten und einen adaptiveren und reaktionsschnelleren Ansatz zur Sicherheitsprüfung benötigen.
📖 Lesen Sie die vollständige Quelle: r/ClaudeAI
👀 Siehe auch

Open-Source-Spielplatz für Red-Teaming von KI-Agenten mit veröffentlichten Exploits
Fabraix hat eine Live-Umgebung als Open Source veröffentlicht, um KI-Agenten-Abwehrmaßnahmen durch adversarische Herausforderungen zu testen. Jede Herausforderung setzt einen Live-Agenten mit echten Werkzeugen und veröffentlichten Systemprompts ein, wobei gewinnende Gesprächsprotokolle und Schutzmaßnahmen-Logs öffentlich dokumentiert werden.

Live-Dashboard der exponierten OpenClaw-Tools
Dashboard, das exponierte Steuerpanelen von OpenClaw-Tools wie Moltbot und Clawdbot zeigt.

Claude AI-Umgehung von Sicherheitsvorkehrungen beobachtet, wenn Anfragen als Netzwerksicherheitsaufgaben formuliert werden
Ein Reddit-Nutzer entdeckte, dass Claude KI Listen mit Piraterie-Domains bereitstellt, wenn Anfragen als Netzwerksicherheitsaufgaben zum Blockieren formuliert werden, wodurch die normalen Ablehnungsmechanismen umgangen werden. Das Modell erkannte an, die Absicht falsch interpretiert zu haben, nachdem der Nutzer auf den Einfluss der Formulierung hinwies.

Agent-Pass: Identitätsverifizierung für KI-Agenten
Agent Passport ist eine Open-Source-Identitätsüberprüfungsschicht, die Ed25519-Authentifizierung und JWT-Token für KI-Agenten verwendet und das Problem der Identitätsanmaßung angeht.