llm-hasher : Détection et Tokenisation Locales des PII pour les Flux de Travail LLM Hybrides

llm-hasher comble une lacune de sécurité spécifique dans les workflows LLM hybrides : lorsque vous exécutez des LLM locaux mais que vous appelez toujours des services externes comme OpenAI, Claude ou Gemini pour certaines tâches, vos PII quittent toujours votre infrastructure en texte clair. Cet outil exécute la détection des PII entièrement localement en utilisant Ollama, donc aucune donnée ne quitte vos systèmes pendant la phase de détection.

Fonctionnement

Le processus suit trois étapes : détecter les PII localement, les tokeniser avant les appels aux LLM externes, puis restaurer les valeurs originales après traitement. Cela empêche les données sensibles d'être exposées à des services tiers.

Approche de détection

Le système de détection utilise une approche hybride :

• Modèles regex pour les types de données structurées : cartes de crédit, numéros IBAN, adresses e-mail et adresses IPv4
• Ollama avec llama3.2:3b (par défaut) pour la détection contextuelle des PII non structurées : noms, adresses, identifiants nationaux, passeports et dates de naissance

Implémentation technique

Les correspondances entre les PII originales et les tokens sont stockées dans un coffre-fort SQLite chiffré en AES-256-GCM. Le déploiement est simplifié avec Docker Compose, qui lance à la fois Ollama et le service llm-hasher avec une seule commande.