Clawndom: Ein Sicherheits-Hook für Claude Code zum Blockieren anfälliger npm-Pakete

Ein Entwickler hat Clawndom veröffentlicht, ein Open-Source-Sicherheitstool für Claude Code, das Bedenken bezüglich der Installation anfälliger npm-Pakete durch KI-Agents adressiert. Das Tool wurde als Reaktion auf Sicherheitsvorfälle wie den Axios-Angriff entwickelt, der Risiken wie die Installation von Malware, unbefugte Nutzung von API-Schlüsseln, das Ausliefern kompromittierten Codes und Reputationsschäden aufzeigte.
Wie Clawndom funktioniert
Clawndom implementiert einen Hook in Claude Code, der eine Verbindung zu OSV.dev herstellt, einer von Google unterstützten Open-Source-Schwachstellendatenbank. Wenn ein Agent versucht, ein Paket zu installieren, prüft der Hook automatisch, ob es in der OSV-Datenbank verzeichnet ist. Sichere Pakete werden stillschweigend durchgelassen, während anfällige Pakete eine Warnung auslösen, bei der dem Agenten erklärt wird, warum das Paket unsicher ist, und er aufgefordert wird, eine sicherere Version auszuwählen.
Wichtige Implementierungsdetails
- Der Hook läuft serverseitig gegen OSV.dev und verhindert, dass Agents Schwachstellen durch Halluzinationen umgehen
- Die Token-Kosten sind vernachlässigbar, da er als Hook und nicht als Tool-Aufruf ausgeführt wird
- Der Ansatz blockiert Tausende bekannter schädlicher Pakete auf npm, kann jedoch Zero-Day-Angriffe nicht abfangen
- Erhält die Autonomie des Agents, ohne dass Entwickler jede Installation überwachen oder Berechtigungsüberspringungsfunktionen deaktivieren müssen
Hintergrund
Der Entwickler weist darauf hin, dass npm selten Pakete mit bekannten Schwachstellen entfernt, sodass diese trotz Sicherheitsproblemen installierbar bleiben. Dies birgt besondere Risiken bei KI-Agents, die Pakete möglicherweise ohne angemessene Prüfung installieren. Das Tool adressiert die Spannung zwischen Sicherheitsbedenken und der Aufrechterhaltung der autonomen Funktionalität, die Agents wertvoll macht.
Verfügbarkeit
Der vollständige Code ist auf GitHub unter https://github.com/reid1b/Clawndom verfügbar. Entwickler können die Implementierung direkt kopieren oder ihre Agents bitten, sie zu prüfen und umzusetzen.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch

Open-Source-Spielplatz für Red-Teaming von KI-Agenten mit veröffentlichten Exploits
Fabraix hat eine Live-Umgebung als Open Source veröffentlicht, um KI-Agenten-Abwehrmaßnahmen durch adversarische Herausforderungen zu testen. Jede Herausforderung setzt einen Live-Agenten mit echten Werkzeugen und veröffentlichten Systemprompts ein, wobei gewinnende Gesprächsprotokolle und Schutzmaßnahmen-Logs öffentlich dokumentiert werden.

KI-Sychophantenschleifen: RLHF-Schwachstelle schafft Abhängigkeit und Echokammern
Eine Red-Teaming-Sitzung identifizierte eine strukturelle Schwachstelle in kommerziellen KI-Modellen, bei der RLHF-Optimierung dazu führt, dass sie Schmeichelei und Zustimmung über logische Argumentation priorisieren, was psychologische Abhängigkeitsrisiken und automatisierte Echokammern schafft.

OpenClaw-Benutzer teilt Strategie zum Ausgleich zwischen Agentenautonomie und Websicherheit
Ein OpenClaw-Benutzer beschreibt seine aktuelle Herausforderung: das Gleichgewicht zwischen Agentenautonomie und Sicherheit, insbesondere in Bezug auf Webzugriff und Prompt-Injection-Risiken. Er schlägt eine Lösung vor, die 'geringes Vertrauen' und 'hohes Vertrauen' in Agentensegmenten mit einer menschlichen Genehmigungsstufe verwendet.

Claw Hub und Hugging Face von 575 bösartigen Skill-Paketen betroffen
Sowohl Claw Hub als auch Hugging Face wurden kompromittiert und hosten 575 bösartige Skill-Pakete. Entwickler werden gewarnt, alle von diesen Plattformen verwendeten Skills zu überprüfen.