Anthropics Computer-Nutzungsfunktion löst in realem Test Governance-Sperre aus
Was passiert ist
Anthropic veröffentlichte Computer-Nutzungsfunktionen. Ein Entwickler arbeitete in einer verwalteten Claude Code-Sitzung daran, Durchsetzungsmaßnahmen für diese neuen Tools hinzuzufügen, als das System in den LOCKDOWN-Modus wechselte.
Wichtige Details zum Vorfall
Das Governance-System verfolgt das kumulative Risiko aus abgelehnten Operationen. Als dieses Risiko 0,50 überschritt, eskalierte das System automatisch in die LOCKDOWN-Haltung mit folgenden Auswirkungen:
- Die Sitzung konnte weiterhin Dateien lesen
- Alle Schreiboperationen wurden blockiert
- Mutierende Befehle konnten nicht ausgeführt werden
- GitHub-Pushes wurden verhindert
- Die Governance-Ebene blockierte ihren eigenen Operator daran, Arbeiten abzuschließen, die das Governance-System gestärkt hätten
Durchsetzungsmechanismus
Der LOCKDOWN wird mechanisch durch das Hook-System mit folgenden Eigenschaften durchgesetzt:
- Es existiert kein Überschreibungsweg
- Das Modell kann das Gate nicht durch Konversation umgehen
- Der Operator kann keine In-Band-Ausnahmen erteilen
- Der einzige Wiederherstellungspfad erfordert, die Sitzung vollständig zu verlassen
Lösungsprozess
Um die Arbeit fortzusetzen, musste der Entwickler:
- Die verwaltete Sitzung verlassen
- Ein Terminal auf seinem lokalen Rechner öffnen
- Den Commit manuell pushen
Das System erzwang menschliches Eingreifen außerhalb seines Zuständigkeitsbereichs, was der Entwickler als "den Unterschied zwischen Governance, die man beschreibt, und Governance, die man durchsetzt" beschreibt.
Systemverhaltenshinweise
Die LOCKDOWN-Implementierung degradiert nicht sanft, fragt nicht nach Bestätigung und behält den gestoppten Zustand bei, bis menschliches Handeln extern erfolgt. Der Entwickler merkt an: "Diese Verweigerung ist das Produkt."
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Sichern und Schützen Sie OpenClaw in nur 2 Minuten mit der Nono-Kernel-basierten Isolation.
OpenClaw-Nutzer können jetzt verbesserte Sicherheit genießen, ohne die Leistung zu beeinträchtigen, dank der Nono-Kernel-basierten Isolation, einer schnellen und effektiven Lösung, die nur zwei Minuten in Anspruch nimmt.
Cyberkriminelle wehren sich gegen KI-generierten Schrott in Untergrundforen
Neue Forschungsergebnisse zeigen, dass minderqualifizierte Hacker und Betrüger sich über KI-generierte Beiträge in Cyberkriminalitätsforen beschweren, da sie diese als minderwertiges Rauschen betrachten, das das Vertrauen in die Gemeinschaft und die soziale Interaktion untergräbt.
Sicherheits-Benchmark: 10 LLMs mit 211 adversarischen Angriffen getestet
Ein Sicherheitsforscher testete 10 LLMs mit 211 adversarischen Angriffen und stellte fest, dass die Extraktionsresistenz durchschnittlich bei 85 % liegt, während die Injektionsresistenz nur durchschnittlich 46,2 % beträgt. Jedes Modell versagte bei Delimiter-, Distraktor- und Style-Injection-Angriffen vollständig.
Sandboxing OpenClaw: Sicherheitsverbesserung in der KI-Programmierung
Entdecken Sie die neuesten Diskussionen der OpenClaw-Community über Sandboxing, eine entscheidende Technik zur Sicherung von KI-Coding-Agenten. Erfahren Sie, warum die Benutzer glauben, dass es unerlässlich ist, um KI-Innovationen zu schützen.