llm-hasher: Detecção e Tokenização Local de PII para Fluxos de Trabalho Híbridos de LLM

O llm-hasher aborda uma lacuna de segurança específica em fluxos de trabalho híbridos de LLM: quando você executa LLMs locais, mas ainda chama serviços externos como OpenAI, Claude ou Gemini para certas tarefas, suas PII ainda saem de sua infraestrutura em texto simples. Esta ferramenta executa a detecção de PII inteiramente localmente usando Ollama, portanto, nenhum dado sai de seus sistemas durante a fase de detecção.

Como Funciona

O processo segue três etapas: detectar PII localmente, tokenizá-la antes das chamadas de LLM externo e, em seguida, restaurar os valores originais após o processamento. Isso evita que dados sensíveis sejam expostos a serviços de terceiros.

Abordagem de Detecção

O sistema de detecção usa uma abordagem híbrida:

• Padrões regex para tipos de dados estruturados: cartões de crédito, números IBAN, endereços de e-mail e endereços IPv4
• Ollama com llama3.2:3b (por padrão) para detecção contextual de PII não estruturada: nomes, endereços, IDs nacionais, passaportes e datas de nascimento

Implementação Técnica

Os mapeamentos entre PII originais e tokens são armazenados em um cofre SQLite criptografado com AES-256-GCM. A implantação é simplificada com Docker Compose, que inicia tanto o Ollama quanto o serviço llm-hasher com um único comando.