Sicherheitsanalyse von KI-Agenten deckt gebrochenes Vertrauensmodell und hohe Anfälligkeitsraten auf

✍️ OpenClawRadar📅 Veröffentlicht: 23. März 2026🔗 Source
Sicherheitsanalyse von KI-Agenten deckt gebrochenes Vertrauensmodell und hohe Anfälligkeitsraten auf
Ad

Zusammenbruch der Sicherheitsarchitektur

Die Analyse zeigt, dass das grundlegende Vertrauensmodell für KI-Agenten gebrochen ist. Im Gegensatz zu traditionellen Sicherheitsarchitekturen verarbeiten KI-Agenten Angriffe und legitime Anweisungen über dasselbe Kontextfenster ohne strukturelle Unterscheidung. Die Trennung von Steuerungs- und Datenebene, die traditionelle Sicherheit stützt, existiert in aktuellen KI-Agenten-Implementierungen nicht.

Wichtige empirische Erkenntnisse

  • Indirekte Injektion erreicht Angriffserfolgsraten (ASR) von 36–98 % bei modernsten Modellen in den Benchmarks MCPTox, ASB und PINT
  • Leistungsfähigere Modelle sind ANFÄLLIGER für Angriffe auf Werkzeugebene
  • npm-MCP-Ökosystem-Scan: 2.386 Pakete untersucht, wobei 49 % Sicherheitsprobleme enthalten
  • Angriffsflächen wachsen überlinear mit den Fähigkeiten des Agenten
Ad

Vorgeschlagene Lösung: Agent Threat Rules (ATR)

Die Forschung stellt Agent Threat Rules (ATR) vor, den ersten offenen Erkennungsstandard für KI-Agenten-Bedrohungen. Die Implementierung umfasst:

  • 61 Erkennungsregeln
  • 99,4 % Genauigkeit im PINT-Benchmark
  • Open Source mit MIT-Lizenz
  • Verfügbar auf GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules

Die vollständige Arbeit behandelt 30+ CVEs, 7 Benchmarks und schlägt architektonische Anforderungen für Abwehrmaßnahmen vor, die mit der KI-Skalierung Schritt halten können.

📖 Read the full source: r/ClaudeAI

Ad

👀 Siehe auch