Sicherheitsanalyse von KI-Agenten deckt gebrochenes Vertrauensmodell und hohe Anfälligkeitsraten auf

Zusammenbruch der Sicherheitsarchitektur

Die Analyse zeigt, dass das grundlegende Vertrauensmodell für KI-Agenten gebrochen ist. Im Gegensatz zu traditionellen Sicherheitsarchitekturen verarbeiten KI-Agenten Angriffe und legitime Anweisungen über dasselbe Kontextfenster ohne strukturelle Unterscheidung. Die Trennung von Steuerungs- und Datenebene, die traditionelle Sicherheit stützt, existiert in aktuellen KI-Agenten-Implementierungen nicht.

Wichtige empirische Erkenntnisse

• Indirekte Injektion erreicht Angriffserfolgsraten (ASR) von 36–98 % bei modernsten Modellen in den Benchmarks MCPTox, ASB und PINT
• Leistungsfähigere Modelle sind ANFÄLLIGER für Angriffe auf Werkzeugebene
• npm-MCP-Ökosystem-Scan: 2.386 Pakete untersucht, wobei 49 % Sicherheitsprobleme enthalten
• Angriffsflächen wachsen überlinear mit den Fähigkeiten des Agenten

Vorgeschlagene Lösung: Agent Threat Rules (ATR)

Die Forschung stellt Agent Threat Rules (ATR) vor, den ersten offenen Erkennungsstandard für KI-Agenten-Bedrohungen. Die Implementierung umfasst:

• 61 Erkennungsregeln
• 99,4 % Genauigkeit im PINT-Benchmark
• Open Source mit MIT-Lizenz
• Verfügbar auf GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules

Die vollständige Arbeit behandelt 30+ CVEs, 7 Benchmarks und schlägt architektonische Anforderungen für Abwehrmaßnahmen vor, die mit der KI-Skalierung Schritt halten können.