KI-Agenten-Schutzmaßnahmen verlieren ohne aktive Wartung mit der Zeit an Wirksamkeit.

KI-Agenten-Schutzmaßnahmen – Sicherheitsregeln, die in Systemaufforderungen definiert sind – neigen dazu, sich mit der Zeit durch inkrementelle Änderungen zu verschlechtern, ähnlich wie Sicherheitslücken, die in Softwaresystemen auftreten. Laut Beobachtungen von Entwicklern, die mit KI-Agenten arbeiten, werden klare Grenzen wie "Tue X nicht" oder "Überprüfe immer Y vor Z" durch normale Entwicklungsprozesse allmählich unwirksam.

Wie Schutzmaßnahmen zerfallen

Die Quelle beschreibt ein häufiges Muster: Anfängliche Systemaufforderungen funktionieren etwa eine Woche lang gut, dann nehmen Entwickler kleine, sinnvolle Änderungen vor, die sich ansammeln:

• Aktualisieren von Aufforderungen, um neue Randfälle zu behandeln
• Wechseln von Modellversionen
• Hinzufügen neuer Tools

Nach sechs Wochen kann die Hälfte der ursprünglichen Sicherheitsregeln unter Schichten von Ergänzungen begraben sein, einige Regeln widersprechen sich gegenseitig, und Modelle können Regeln stillschweigend ignorieren, weil Aufforderungen zu lang werden oder Anweisungen mehrdeutig sind.

Wartungsansatz

Die Quelle empfiehlt, die Wartung von Schutzmaßnahmen wie Sicherheitspatches mit einem zweiwöchigen Prozess zu behandeln:

• Erneutes Lesen der gesamten Systemaufforderung von Grund auf (nicht nur Überfliegen)
• Testen jeder Grenzregel mit direkten Aufforderungen, die sie auslösen sollten
• Überprüfen, ob neue Tools oder Fähigkeiten bestehende Regeln umgehen
• Entfernen veralteter Regeln, die auf eingestellte Funktionen verweisen

Die zentrale Erkenntnis ist, dass Schutzmaßnahmen aktive Wartung erfordern und keine "Einrichten und Vergessen"-Systeme sind. Ohne Überprüfung im letzten Monat ist laut der Quelle mindestens eine Regel wahrscheinlich defekt.