VulnHunter: Capital Ones agentisches KI-Tool für Codesicherheit jetzt Open Source
Capital One hat VulnHunter als Open Source veröffentlicht, ein agentisches KI-Tool zur Codesicherheit, das Quellcode proaktiv aus Angreifersicht analysiert. Entwickelt, um der wachsenden Bedrohung durch KI-gesteuerte Exploit-Automatisierung entgegenzuwirken, unterscheidet sich VulnHunter in drei Punkten von passiven Scannern: Es nutzt eine Falsifikations-Engine zur Minimierung falscher Positiver, denkt von angreiferzugänglichen Einstiegspunkten aus vorwärts statt rückwärts von gefährlichen Senken, und liefert evidenzbasierte Code-Behebungen.
Wichtigste technische Merkmale
- Falsifikations-Engine: Nach Identifizierung einer potenziellen Schwachstelle versucht VulnHunter aktiv, seinen eigenen Fund zu widerlegen, indem es nach unbegründeten Annahmen, logischen Lücken oder Bedingungen sucht, die den Angriff verhindern würden. Nur Funde, die diese adversarielle Prüfung bestehen, gelangen zum Entwickler.
- Angreifer-zentrierte Vorwärtsanalyse: Statt eines sink-first Pattern Matching beginnt VulnHunter an angreiferzugänglichen Einstiegspunkten (APIs, Netzwerknachrichten, Datei-Uploads) und denkt durch Anwendungslogik, Datentransformationen und Sicherheitsprüfungen vorwärts, um zu bewerten, ob ein Angreifer tatsächlich durchdringen kann.
- Evidenzbasierte Behebung: Wenn ein Fund die Falsifikation übersteht, kartiert VulnHunter den gesamten Exploit-Pfad, beschreibt die Fähigkeiten, die ein Angreifer erlangen würde, und generiert fokussierte Code-Änderungen zur Überprüfung durch den Entwickler.
Fokus auf Entwicklererfahrung
VulnHunter wurde entwickelt, um die Triage-Last durch bewusste Vermeidung von Fehlalarmen zu reduzieren. Das Tool liefert nur Funde, die intern rigoros geprüft wurden, sodass Entwickler sich auf die Behebung verifizierter Schwachstellen konzentrieren können, anstatt durch Rauschen zu filtern.
Das Tool ist für den Unternehmenseinsatz ausgelegt, aber die Open-Source-Veröffentlichung macht es jedem Entwicklungsteam zugänglich. Capital One hat es vor der Veröffentlichung auf der eigenen Codebasis getestet; der Quellcode enthält den vollständigen agentischen Reasoning-Workflow und die Falsifikations-Engine.
📖 Vollständige Quelle lesen: HN LLM Tools
👀 Siehe auch
pi-governance: RBAC, DLP und Audit-Logging für OpenClaw-Coding-Agenten
pi-governance ist ein Plugin, das zwischen KI-Codierungsagenten und Ihrem System sitzt, Werkzeugaufrufe klassifiziert und riskante Operationen blockiert. Es bietet Bash-Befehlssperrung, DLP-Scanning für Geheimnisse und PII, rollenbasierte Zugriffskontrolle und strukturierte Audit-Protokollierung ohne Konfiguration.
Drei E-Mail-basierte Angriffsvektoren gegen KI-Agenten, die E-Mails lesen
Ein Reddit-Beitrag beschreibt drei spezifische Methoden, mit denen Angreifer KI-Agents, die E-Mails verarbeiten, kapern können: Instruction Override, Data Exfiltration und Token Smuggling. Diese nutzen die Unfähigkeit des Agents aus, legitime Anweisungen von bösartigen zu unterscheiden, die in den E-Mail-Text eingebettet sind.
Versteckte Audiosignale kapern Sprach-KI-Systeme mit 79-96% Erfolgsrate
Forschung zeigt, dass unhörbare Audio-Clips LALMs dazu zwingen können, unbefugte Befehle wie Websuchen, Dateidownloads und E-Mail-Exfiltration mit einer Erfolgsrate von 79-96 % bei 13 Modellen, darunter Mistral und Microsoft-Dienste, auszuführen.
Claudes Sicherheitsüberprüfungsbefehl hat Einschränkungen für Produktionssysteme
Ein Entwickler fand Claudes Sicherheitsüberprüfungsbefehl hilfreich für grundlegende Validierungen wie MIME-Typen und Dateigrößenbeschränkungen, jedoch unzureichend für die Produktionshärtung gegen ausgeklügelte Bedrohungen. Die Lösung erforderte eine zweiwöchige Architekturüberholung, bei der die Dateiverarbeitung in einen eingeschränkten Worker mit begrenzten Berechtigungen ausgelagert wurde.