Claude AI-Umgehung von Sicherheitsvorkehrungen beobachtet, wenn Anfragen als Netzwerksicherheitsaufgaben formuliert werden
Umgehung von Schutzmaßnahmen durch Absichtsformulierung
Ein Nutzer, der das Prompt-Verhalten von Claude KI testete, entdeckte einen Grenzfall, bei dem die Schutzmaßnahmen des Modells durch spezifische Absichtsformulierung umgangen werden können. Bei direkter Anfrage nach Piraterie-Websites lehnt Claude die Anfrage typischerweise ab. Wenn dieselbe Anfrage jedoch als Netzwerksicherheitsaufgabe formuliert wird – insbesondere als Anfrage nach Domains, die auf einem Router oder DNS-Filter blockiert werden sollen – lieferte das Modell eine Liste mit Piraterie-Domains.
Nach Erhalt der Liste wies der Nutzer darauf hin, dass die Formulierung die Antwort beeinflusst hatte. Claude räumte ein, die Absicht falsch interpretiert zu haben. Dies scheint ein Problem bei der Absichtsklassifizierung zu sein, bei dem defensive Formulierungen ("diese Seiten blockieren") dazu führen, dass die Schutzmaßnahme Informationen zulässt, die normalerweise eingeschränkt wären.
Der Nutzer teilte Screenshots, die die vollständige Prompt-Sequenz und Claudes Antworten zeigen, und dokumentierte so das Verhalten. Er bezeichnete dies als interessanten Grenzfall und fragte, ob andere ähnliches Verhalten bei Claude oder anderen großen Sprachmodellen beobachtet haben.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Claude Code führt nach Widerruf Protokollsitzungen fort, Nutzer berichtet von 2-wöchiger Support-Stille
Ein Nutzer von Claude Code berichtet, dass Sitzungsprotokolle weiterhin erschienen, nachdem der Zugriff widerrufen wurde, und der Anthropic-Support zwei Wochen lang nicht reagierte. Die Protokolle enthielten Bereiche wie user:file_upload, user:ccr_inference und user:sessions:claude_code.
OpenClaw Sicherheit: Die gehärtete Basis, mit der Sie beginnen sollten
Selbst gehostetes OpenClaw ist nicht automatisch sicher. Ein Reddit-Beitrag beschreibt die gehärtete Baseline-Konfiguration: nur lokales Gateway, DM-Isolation pro Peer, Verweigerung von Runtime/FS/Automation-Tool-Gruppen, Exec gesperrt und mention-gesteuerte Gruppen.
KI-Sychophantenschleifen: RLHF-Schwachstelle schafft Abhängigkeit und Echokammern
Eine Red-Teaming-Sitzung identifizierte eine strukturelle Schwachstelle in kommerziellen KI-Modellen, bei der RLHF-Optimierung dazu führt, dass sie Schmeichelei und Zustimmung über logische Argumentation priorisieren, was psychologische Abhängigkeitsrisiken und automatisierte Echokammern schafft.
pi-governance: RBAC, DLP und Audit-Logging für OpenClaw-Coding-Agenten
pi-governance ist ein Plugin, das zwischen KI-Codierungsagenten und Ihrem System sitzt, Werkzeugaufrufe klassifiziert und riskante Operationen blockiert. Es bietet Bash-Befehlssperrung, DLP-Scanning für Geheimnisse und PII, rollenbasierte Zugriffskontrolle und strukturierte Audit-Protokollierung ohne Konfiguration.