llm-hasher: ハイブリッドLLMワークフローのためのローカルPII検出とトークン化

llm-hasherは、ハイブリッドLLMワークフローにおける特定のセキュリティギャップに対処します：ローカルLLMを実行しながら、特定のタスクのためにOpenAI、Claude、Geminiなどの外部サービスを呼び出す場合、PIIはプレーンテキストのままインフラストラクチャから流出してしまいます。このツールはOllamaを使用してPII検出を完全にローカルで実行するため、検出フェーズ中にデータがシステムから流出することはありません。

仕組み

プロセスは3つのステップで構成されます：ローカルでPIIを検出し、外部LLM呼び出し前にトークン化し、処理後に元の値を復元します。これにより、機密データが第三者サービスに露出するのを防ぎます。

検出アプローチ

検出システムはハイブリッドアプローチを採用しています：

• 正規表現パターン：構造化データ型（クレジットカード、IBAN番号、メールアドレス、IPv4アドレス）用
• Ollama with llama3.2:3b（デフォルト）：非構造化PII（名前、住所、国民ID、パスポート、生年月日）の文脈に基づく検出用

技術的実装

元のPIIとトークン間のマッピングは、AES-256-GCMで暗号化されたSQLiteボールトに保存されます。Docker Composeを使用したデプロイメントが簡素化されており、単一のコマンドでOllamaとllm-hasherサービスの両方を起動できます。