Agent-Drift: Sicherheitsüberwachungstool für KI-Agenten
Agent-Drift: Sicherheitsüberwachungstool für KI-Agenten
Der Cybersecurity-Spezialist sysinternalssuite erstellte Agent-Drift—ein Open-Source-Tool zum Schutz von KI-Agenten vor Prompt-Injection, Verhaltensdrift und anderen Angriffen. Im Wesentlichen ein SIEM + IDS speziell für OpenClaw.
Warum Es Existiert
"Ich arbeite in der Cybersecurity und habe einen Anstieg von Prompt-Injection, Verhaltensdrift, Memory Poisoning und mehr bei KI-Agenten in freier Wildbahn bemerkt"
Was Agent-Drift Macht
GitHub: https://github.com/lukehebe/Agent-Drift
Das Tool funktioniert als Wrapper für OpenClaw:
- Sammelt Verhaltens-Baseline
- Erkennt Verhaltensdrift
- Alarmiert über Dashboard
Verhaltensüberwachung
Verfolgte Muster:
- Tool-Nutzungssequenzen und -frequenzen
- Timing-Anomalien
- Entscheidungsmuster
- Output-Charakteristiken
Angriffserkennung
| Angriff | Beschreibung |
|---|---|
| Instruktions-Override | Befehlsübernahme |
| Rollen-Hijacking | Rollenübernahme |
| Jailbreak-Versuche | Umgehung von Einschränkungen |
| Datenexfiltration | Datenleck |
| Kodierte Payloads | Verschleierte Payloads |
| Memory Poisoning | Speicherbeschädigung |
| Privilege Escalation | Rechteerweiterung |
| Indirekte Prompt-Injection | Indirekte Angriffe |
Wie Es Funktioniert
- Baseline-Lernen — erste Läufe etablieren normales Verhalten
- Verhaltensvektoren — jeder Lauf wird zu multidimensionalem Vektor
- Drift-Erkennung — neue Läufe werden mit Baseline verglichen
- Anomalie-Warnungen — signifikante Abweichungen lösen Warnungen aus
TL;DR
"Im Grunde ein All-in-One SIEM für deinen KI-Agenten, der als IDS fungiert und dich auch warnt, wenn deine KI anfängt, verrückt zu werden."
Quelle: u/sysinternalssuite auf r/moltbot
📖 Vollständige Quelle lesen: Reddit
👀 Siehe auch
OneCLI: Open-Source Credential Vault für KI-Agenten
OneCLI ist ein in Rust geschriebenes Open-Source-Gateway, das zwischen KI-Agenten und externen Diensten sitzt und echte Zugangsdaten zur Laufzeit einfügt, während Agenten nur Platzhalter-Schlüssel sehen. Es bietet AES-256-GCM-verschlüsselte Speicherung, läuft in einem einzelnen Docker-Container mit eingebettetem PGlite und funktioniert mit jedem Agenten-Framework, das einen HTTPS_PROXY setzen kann.
Fünf wesentliche Sicherheitsschritte für OpenClaw-Instanzen
Ein Reddit-Beitrag warnt davor, dass das Ausführen von OpenClaw mit Standardeinstellungen erhebliche Sicherheitsrisiken birgt, und nennt fünf sofortige Maßnahmen: Standardport ändern, Tailscale für privaten Zugriff nutzen, eine Firewall konfigurieren, separate Konten für den Agenten erstellen und Skills vor der Installation überprüfen.
OpenClaw-Sicherheitslücke durch Spezifikation der Agentic Power of Attorney (APOA) adressiert
Ein Entwickler hat eine offene Spezifikation namens Agentic Power of Attorney (APOA) veröffentlicht, um Sicherheitsbedenken in OpenClaw zu adressieren, wo Agenten derzeit auf Dienste wie E-Mail und Kalender nur mit natürlichen Sprachinstruktionen als Schutzmechanismen zugreifen. Die Spezifikation schlägt dienstspezifische Berechtigungen, zeitlich begrenzten Zugriff, Prüfpfade, Widerruf und Anmeldedatenisolierung vor.
OpenObscure: Open-Source On-Device Privacy-Firewall für KI-Agenten
OpenObscure ist eine Open-Source-Datenschutz-Firewall auf dem Gerät, die zwischen KI-Agenten und LLM-Anbietern sitzt. Sie verwendet FF1-Format-Erhaltende Verschlüsselung mit AES-256, um PII-Werte zu verschlüsseln, bevor Anfragen Ihr Gerät verlassen, wodurch die Datenstruktur erhalten bleibt und die Privatsphäre geschützt wird.