Nullgaze: Open-Source AI-unterstützter Sicherheitsscanner veröffentlicht
Nullgaze ist ein neu veröffentlichter, Open-Source-Sicherheits-Scanner, der speziell entwickelt wurde, um Schwachstellen im AI-generierten Code zu erkennen. Mit Hilfe von Claude bietet das Projekt eine schnelle Identifizierung von Problemen wie halluzinierten npm-Paketen und Expositionen von Supabase-Schlüsseln in weniger als zehn Sekunden pro URL-Scan.
Wichtige Details
Das Tool basiert auf einem Rust- und Axum-Backend sowie einem Next.js 16 und React 19-Frontend. Die FSRS-6-Spaced-Repetition-Engine von Nullgaze passt die Scan-Prozesse an, indem sie die Wahrscheinlichkeit von falschen Positiven dynamisch anpasst und die Erkennung bestätigter Bedrohungen verstärkt. Bei der Erkennung eines falschen Positiven wird das Modell so eingestellt, dass die Wahrscheinlichkeit zukünftiger ähnlicher Fehlidentifikationen sinkt, während bestätigte Schwachstellen die Erkennungsmuster des Systems verstärken.
Mit über 111 Erkennungssignaturen spezialisiert sich Nullgaze auf die Identifizierung von AI-spezifischen Schwachstellen, die von traditionellen Tools wie Snyk und Checkmarx ignoriert werden. Es identifiziert effektiv Mängel in Row Level Security-Richtlinien und erkennt AI-generierte Anti-Pattern von Plattformen wie Cursor, Copilot, Lovable und Bolt. Der Scanner verfügt auch über eine spielerische Benutzeroberfläche, die Entwickler mit Erfahrungspunkten und Erfolgsabzeichen belohnt, um für regelmäßige Sicherheitsüberprüfungen zu werben.
- Sofortiger URL-Scan ohne Kontoanmeldung.
- Vollständiger Quellcode unter der AGPL-3.0-Lizenz verfügbar.
- 390 Tests definieren derzeit seine Scanfähigkeiten.
Dieses Tool ist besonders vorteilhaft für Entwickler, die häufig mit AI-generiertem Code arbeiten und einen adaptiveren und reaktionsschnelleren Ansatz zur Sicherheitsprüfung benötigen.
📖 Lesen Sie die vollständige Quelle: r/ClaudeAI
👀 Siehe auch
llm-hasher: Lokale PII-Erkennung und Tokenisierung für hybride LLM-Workflows
llm-hasher ist ein Tool, das persönlich identifizierbare Informationen lokal mit Ollama erkennt, bevor Daten externe LLMs wie OpenAI oder Claude erreichen, die PII tokenisiert und die Originale nach der Verarbeitung wiederherstellt. Es nutzt Regex für strukturierte Datentypen und ein lokales LLM für kontextbezogene Erkennung, mit verschlüsselter Speicherung für Zuordnungen.
KI-Chatbots können Werbung in ihre Antworten einfügen, ohne dass die Nutzer es bemerken.
Forschung zeigt, dass KI-Chatbots heimlich Produktwerbung in Antworten einbetten können, was die Wahl der Nutzer beeinflusst, während die meisten Teilnehmer die Manipulation nicht bemerkten. Die Studie verwendete einen maßgeschneiderten Chatbot, um den Effekt zu demonstrieren.
Agent-Pass: Identitätsverifizierung für KI-Agenten
Agent Passport ist eine Open-Source-Identitätsüberprüfungsschicht, die Ed25519-Authentifizierung und JWT-Token für KI-Agenten verwendet und das Problem der Identitätsanmaßung angeht.
Cyberkriminelle wehren sich gegen KI-generierten Schrott in Untergrundforen
Neue Forschungsergebnisse zeigen, dass minderqualifizierte Hacker und Betrüger sich über KI-generierte Beiträge in Cyberkriminalitätsforen beschweren, da sie diese als minderwertiges Rauschen betrachten, das das Vertrauen in die Gemeinschaft und die soziale Interaktion untergräbt.