llm-hasher: 하이브리드 LLM 워크플로우를 위한 로컬 PII 탐지 및 토큰화

llm-hasher는 하이브리드 LLM 워크플로우에서 특정 보안 취약점을 해결합니다: 로컬 LLM을 실행하면서도 OpenAI, Claude, Gemini와 같은 외부 서비스를 특정 작업에 호출할 때, PII가 평문으로 인프라를 벗어나는 문제입니다. 이 도구는 Ollama를 사용해 PII 탐지를 완전히 로컬에서 실행하므로 탐지 단계에서는 어떤 데이터도 시스템을 벗어나지 않습니다.

작동 방식

프로세스는 세 단계로 진행됩니다: 로컬에서 PII를 탐지하고, 외부 LLM 호출 전에 토큰화한 후, 처리 완료 시 원본 값을 복원합니다. 이를 통해 민감한 데이터가 제3자 서비스에 노출되는 것을 방지합니다.

탐지 방식

탐지 시스템은 하이브리드 접근법을 사용합니다:

• 정규식 패턴으로 구조화된 데이터 유형 탐지: 신용카드, IBAN 번호, 이메일 주소, IPv4 주소
• Ollama with llama3.2:3b (기본값)로 비구조화된 PII의 문맥 기반 탐지: 이름, 주소, 주민등록번호, 여권번호, 생년월일

기술 구현

원본 PII와 토큰 간의 매핑 정보는 AES-256-GCM으로 암호화된 SQLite 볼트에 저장됩니다. Docker Compose로 배포가 간소화되어 있으며, 단일 명령어로 Ollama와 llm-hasher 서비스를 모두 실행할 수 있습니다.