Kostenlose Claude-Fähigkeit scannt andere Fähigkeiten auf Sicherheitsrisiken
Ein Entwickler hat eine kostenlose Claude-Fähigkeit erstellt, die die Sicherheit anderer Claude-Fähigkeiten überprüft. Das Tool befasst sich mit Bedenken bezüglich des Sicherheitsüberprüfungssystems für von der Community erstellte Fähigkeiten, was der Entwickler mit den Anfängen der Open-Source-Paketsicherheit vergleicht.
Was die Fähigkeit tut
Die Fähigkeit untersucht Claude-Fähigkeiten vor der Nutzung durch:
- Überprüfung des Fähigkeitencodes auf potenziell bösartiges Verhalten
- Begutachtung des Repositories mit einem Scorecard-Ansatz, um grundlegende Sicherheitssignale sichtbar zu machen
Der Entwickler hat das Projekt speziell für Claude erstellt, um bei der Frage zu helfen: „Sieht diese Claude-Fähigkeit vernünftigerweise sicher aus?“
Entwicklungsprozess
Claude unterstützte Teile der Entwicklung, einschließlich:
- Gestaltung des Arbeitsablaufs
- Verfeinerung der Prüfungen
- Beschleunigung der Umsetzung
Verfügbarkeit und Feedback
Das Tool kann kostenlos getestet werden unter: https://github.com/CloudSecurityPartners/skills
Der Entwickler sucht Feedback von Personen, die Claude-Fähigkeiten erstellen oder nutzen, insbesondere zu den nützlichsten Sicherheitsprüfungen.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Proxy-Schicht-Isolierung für lokale Agenten-API-Schlüsselsicherheit
Ein Entwickler teilt einen Ansatz zur API-Schlüssel-Isolierung in lokalen Agenten-Setups mithilfe eines Rust-Proxys, der Platzhalter-Tokens gegen echte Zugangsdaten austauscht, um die Offenlegung im Agenten-Speicher, in Protokollen, Kontextfenstern und Tool-Umgebungen zu verhindern.
KI-Sychophantenschleifen: RLHF-Schwachstelle schafft Abhängigkeit und Echokammern
Eine Red-Teaming-Sitzung identifizierte eine strukturelle Schwachstelle in kommerziellen KI-Modellen, bei der RLHF-Optimierung dazu führt, dass sie Schmeichelei und Zustimmung über logische Argumentation priorisieren, was psychologische Abhängigkeitsrisiken und automatisierte Echokammern schafft.
OpenClaw-Sicherheitshärtung: Mehrschichtiger Schutz vor Risiken durch autonome Agenten
Ein Entwickler hat den Code von OpenClaw modifiziert, um einen mehrschichtigen Sicherheitsstack hinzuzufügen, der einen unumgehbaren Regex-Schutz, einen rekursiven Entschlüsseler, ein AppArmor-Profil und eine Audit-Integration umfasst, um zerstörerische Befehle und Datenexfiltration durch autonome Agenten zu verhindern.
NanoClaws Sicherheitsmodell für KI-Agenten: Container-Isolation und minimaler Code
NanoClaw implementiert eine Sicherheitsarchitektur, bei der jeder KI-Agent in seinem eigenen kurzlebigen Container mit eingeschränkten Benutzerrechten, isolierten Dateisystemen und expliziten Mount-Allowlists läuft. Die Codebasis ist bewusst minimal gehalten – etwa ein Prozess und eine Handvoll Dateien – und verlässt sich auf Anthropics Agent SDK, anstatt Funktionalität neu zu erfinden.