Sicherheitsanalyse von KI-Agenten deckt gebrochenes Vertrauensmodell und hohe Anfälligkeitsraten auf
Zusammenbruch der Sicherheitsarchitektur
Die Analyse zeigt, dass das grundlegende Vertrauensmodell für KI-Agenten gebrochen ist. Im Gegensatz zu traditionellen Sicherheitsarchitekturen verarbeiten KI-Agenten Angriffe und legitime Anweisungen über dasselbe Kontextfenster ohne strukturelle Unterscheidung. Die Trennung von Steuerungs- und Datenebene, die traditionelle Sicherheit stützt, existiert in aktuellen KI-Agenten-Implementierungen nicht.
Wichtige empirische Erkenntnisse
- Indirekte Injektion erreicht Angriffserfolgsraten (ASR) von 36–98 % bei modernsten Modellen in den Benchmarks MCPTox, ASB und PINT
- Leistungsfähigere Modelle sind ANFÄLLIGER für Angriffe auf Werkzeugebene
- npm-MCP-Ökosystem-Scan: 2.386 Pakete untersucht, wobei 49 % Sicherheitsprobleme enthalten
- Angriffsflächen wachsen überlinear mit den Fähigkeiten des Agenten
Vorgeschlagene Lösung: Agent Threat Rules (ATR)
Die Forschung stellt Agent Threat Rules (ATR) vor, den ersten offenen Erkennungsstandard für KI-Agenten-Bedrohungen. Die Implementierung umfasst:
- 61 Erkennungsregeln
- 99,4 % Genauigkeit im PINT-Benchmark
- Open Source mit MIT-Lizenz
- Verfügbar auf GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules
Die vollständige Arbeit behandelt 30+ CVEs, 7 Benchmarks und schlägt architektonische Anforderungen für Abwehrmaßnahmen vor, die mit der KI-Skalierung Schritt halten können.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Regeln der Klaue: Open-Source-Sicherheitsregelsatz für OpenClaw-Agenten
Ein Open-Source-JSON-Regelsatz mit 139 Sicherheitsregeln, der zerstörerische Befehle blockiert, Anmeldedateien schützt und Anweisungsdateien vor unbefugten Agentenänderungen bewahrt. Er arbeitet ohne LLM-Abhängigkeit mithilfe von Regex-Mustern auf der Werkzeugebene.
ClawGuard: Open-Source-Sicherheitsgateway zum Schutz von OpenClaw-API-Zugangsdaten
ClawGuard ist ein Sicherheits-Gateway, das zwischen KI-Agenten und externen APIs sitzt. Es verwendet Dummy-Zugangsdaten auf dem Agenten-Rechner, während echte Tokens separat gespeichert werden. Es bietet Telegram-Genehmigungen für sensible Aufrufe und führt ein Prüfprotokoll der Anfragen.
Open-Source Attack Surface Management Cheat Sheet veröffentlicht
Ein Entwickler hat ein Open-Source-Cheat-Sheet für Attack Surface Management veröffentlicht, das praktische Workflows, Tools und Referenzen abdeckt. Das Projekt umfasst Abschnitte zu Asset-Erkennung, Infrastrukturverfolgung, Aufklärungstools, Automatisierungsworkflows und Lernressourcen.
Verhinderung der Teilnahme von KI-Agenten an Botnets: Sicherheitsueberlegungen
Die Community diskutiert den Schutz autonomer KI-Agenten vor Uebernahme oder Nutzung in boesartigen Botnets.