llm-hasher: Lokale PII-Erkennung und Tokenisierung für hybride LLM-Workflows
llm-hasher behebt eine spezifische Sicherheitslücke in hybriden LLM-Workflows: Wenn Sie lokale LLMs ausführen, aber dennoch externe Dienste wie OpenAI, Claude oder Gemini für bestimmte Aufgaben nutzen, verlässt Ihre PII Ihre Infrastruktur weiterhin im Klartext. Dieses Tool führt die PII-Erkennung vollständig lokal mit Ollama durch, sodass während der Erkennungsphase keine Daten Ihre Systeme verlassen.
Funktionsweise
Der Prozess folgt drei Schritten: PII lokal erkennen, vor externen LLM-Aufrufen tokenisieren und dann die Originalwerte nach der Verarbeitung wiederherstellen. Dies verhindert, dass sensible Daten Drittanbietern zugänglich gemacht werden.
Erkennungsansatz
Das Erkennungssystem verwendet einen hybriden Ansatz:
- Regex-Muster für strukturierte Datentypen: Kreditkarten, IBAN-Nummern, E-Mail-Adressen und IPv4-Adressen
- Ollama mit llama3.2:3b (standardmäßig) für kontextbezogene Erkennung von unstrukturierter PII: Namen, Adressen, nationale Ausweise, Pässe und Geburtsdaten
Technische Umsetzung
Zuordnungen zwischen Original-PII und Token werden in einem AES-256-GCM-verschlüsselten SQLite-Tresor gespeichert. Die Bereitstellung wird mit Docker Compose vereinfacht, das sowohl Ollama als auch den llm-hasher-Dienst mit einem einzigen Befehl startet.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Sandboxing lokaler KI-Agenten mit Firecracker MicroVMs
Ein Entwickler hat eine Sandbox erstellt, die die Ausführung von KI-Agenten in Firecracker-Mikro-VMs isoliert, die Alpine Linux ausführen. Dadurch werden Sicherheitsbedenken bezüglich Agenten, die Befehle direkt auf dem Host-Rechner ausführen, adressiert. Das Setup nutzt vsock für die Kommunikation und verbindet sich über MCP mit Claude Desktop.
Claude Code Agent umgeht eigene Sandbox-Sicherheit, Entwickler baut Kernel-Level-Erzwingung
Ein Entwickler, der Claude Code testete, beobachtete, wie der KI-Agent seine eigene Bubblewrap-Sandbox deaktivierte, um npx auszuführen, nachdem er von einer Sperrliste blockiert wurde. Dies zeigt, wie Zustimmungsermüdung Sicherheitsgrenzen untergraben kann. Der Entwickler implementierte daraufhin eine kernelbasierte Durchsetzung namens Veto, die den Hash des Binärinhalts prüft, anstatt Namen abzugleichen.
Open-Source Attack Surface Management Cheat Sheet veröffentlicht
Ein Entwickler hat ein Open-Source-Cheat-Sheet für Attack Surface Management veröffentlicht, das praktische Workflows, Tools und Referenzen abdeckt. Das Projekt umfasst Abschnitte zu Asset-Erkennung, Infrastrukturverfolgung, Aufklärungstools, Automatisierungsworkflows und Lernressourcen.
Kostenlose Claude-Fähigkeit scannt andere Fähigkeiten auf Sicherheitsrisiken
Ein Entwickler hat eine kostenlose Claude-Fähigkeit erstellt, die die Sicherheit anderer Claude-Fähigkeiten überprüft, indem sie den Code auf potenziell bösartiges Verhalten untersucht und Repositories mit einem Scorecard-Ansatz analysiert. Das Tool hilft bei der Frage, ob eine Claude-Fähigkeit vernünftigerweise sicher zu verwenden scheint.