Agent-Drift: Sicherheitsüberwachungstool für KI-Agenten

Der Cybersecurity-Spezialist sysinternalssuite erstellte Agent-Drift—ein Open-Source-Tool zum Schutz von KI-Agenten vor Prompt-Injection, Verhaltensdrift und anderen Angriffen. Im Wesentlichen ein SIEM + IDS speziell für OpenClaw.

Warum Es Existiert

"Ich arbeite in der Cybersecurity und habe einen Anstieg von Prompt-Injection, Verhaltensdrift, Memory Poisoning und mehr bei KI-Agenten in freier Wildbahn bemerkt"

Was Agent-Drift Macht

GitHub: https://github.com/lukehebe/Agent-Drift

Das Tool funktioniert als Wrapper für OpenClaw:

1. Sammelt Verhaltens-Baseline
2. Erkennt Verhaltensdrift
3. Alarmiert über Dashboard

Verhaltensüberwachung

Verfolgte Muster:

• Tool-Nutzungssequenzen und -frequenzen
• Timing-Anomalien
• Entscheidungsmuster
• Output-Charakteristiken

Angriffserkennung

Angriff	Beschreibung
Instruktions-Override	Befehlsübernahme
Rollen-Hijacking	Rollenübernahme
Jailbreak-Versuche	Umgehung von Einschränkungen
Datenexfiltration	Datenleck
Kodierte Payloads	Verschleierte Payloads
Memory Poisoning	Speicherbeschädigung
Privilege Escalation	Rechteerweiterung
Indirekte Prompt-Injection	Indirekte Angriffe

Wie Es Funktioniert

1. Baseline-Lernen — erste Läufe etablieren normales Verhalten
2. Verhaltensvektoren — jeder Lauf wird zu multidimensionalem Vektor
3. Drift-Erkennung — neue Läufe werden mit Baseline verglichen
4. Anomalie-Warnungen — signifikante Abweichungen lösen Warnungen aus

TL;DR

"Im Grunde ein All-in-One SIEM für deinen KI-Agenten, der als IDS fungiert und dich auch warnt, wenn deine KI anfängt, verrückt zu werden."

---

Quelle: u/sysinternalssuite auf r/moltbot