Google의 HEIR 컴파일러: 동형 암호화를 통한 실용적인 프라이빗 AI

Google은 HEIR(동형암호 중간 표현)을 오픈소스로 공개했습니다. 이는 사전 훈련된 AI 모델을 암호화된 입력으로 작동하도록 변환하는 컴파일러로, 서버가 기본 데이터를 보지 않고도 암호학적으로 안전한 개인 AI 추론을 가능하게 합니다.
HEIR이 필요한 이유
동형암호는 막대한 계산 오버헤드로 인해 오랫동안 실용적이지 못했습니다. HEIR은 기존 모델의 변환을 자동화하는 컴파일러 툴체인을 제공하여 암호학자 팀의 필요성을 없애는 것을 목표로 합니다. 이 프로젝트는 차등 프라이버시, 비공개 집합 멤버십, 비공개 정보 검색을 이미 포함하고 있는 Google의 개인 정보 보호 컴퓨팅 툴킷의 일부입니다.
주요 기능
- 원클릭 목표: 비전은 HEIR을 비전문가가 암호화된 추론을 프로덕션에 통합할 수 있는 원클릭 솔루션으로 만드는 것입니다.
- 하드웨어 가속기: Google은 Belfort, Niobium, Cornami, Optalysys와 협력하여 동형암호 전용 하드웨어를 구축했습니다. 이 가속기의 지연 시간 이점은 가까운 시일 내에 데모로 선보일 예정입니다.
- 연구 플랫폼: HEIR은 이미 Georgia Tech, Carnegie Mellon, UC Santa Barbara, Purdue 등과의 협업에 사용되고 있으며, 이를 기반으로 한 4개의 동료 검토 논문이 있습니다.
데모 애플리케이션
Google은 HEIR으로 컴파일된 4가지 개인 추론 애플리케이션을 공개했으며, 단일 스레드 CPU에서 측정한 지연 시간 숫자를 제공했습니다. 소스 코드는 GitHub 저장소에서 확인할 수 있습니다.
- 딥러닝 추천 모델 — 개인 콘텐츠 추천 (Belfort Labs, LG, NYU와 공동 작업).
- 신용카드 사기 탐지 — Niobium 및 hardshell.ai와 함께 컴파일.
- 위협 침입 탐지 — 패킷 내용을 공개하지 않고 암호화된 네트워크 트래픽에 대한 이상 탐지용 Kitsune 시스템.
- 핫워드 감지기 — 오디오 트리거 AI 에이전트가 개인적으로 핫워드를 인식할 수 있게 함 (Belfort Labs와 함께).
이러한 데모는 동형암호가 더 이상 이론적이지 않으며 데이터 프라이버시가 중요한 의료, 금융 등 분야의 실제 애플리케이션에 적용할 준비가 되었음을 보여줍니다.
모든 예제의 코드는 GitHub에서 확인할 수 있습니다. 자세한 지연 시간 숫자는 전체 블로그 게시물을 참조하세요.
📖 전체 소스 읽기: HN AI Agents
👀 See Also

RTX 5060 Ti 16GB 로컬 LLM 벤치마크: 코딩용 30B 모델이 여전히 선두를 달리고 있습니다
RTX 5060 Ti 16GB에서의 벤치마크 결과, Unsloth Qwen3-Coder-30B UD-Q3_K_XL이 Ubuntu에서 76.3 tok/s의 속도와 8.14의 품질 점수를 달성하여 권장되는 기본 코딩 모델로 선정되었습니다. Unsloth Qwen3.5-35B UD-Q2_K_XL은 80.1 tok/s의 더 빠른 속도를 보였지만 품질 점수는 낮았습니다.

미각 기억: 초차원 컴퓨팅 벡터를 통한 가역적 에이전트 메모리
하이퍼차원 컴퓨팅이 벡터 검색을 대체하여 완전한 기억을 가능하게 합니다: 프로젝트와 관련된 모든 날을 나열하고, 명명되지 않은 작업 흐름을 감지하며, 일일 로그를 점곱을 통해 손실 없이 분해합니다.
니들(Needle): 모바일에서 초당 6000토큰으로 실행되는 2600만 파라미터 함수 호출 모델
Cactus가 Needle을 오픈소스로 공개했습니다. Needle은 단일 호출 함수 실행을 위한 2600만 파라미터 모델로, 소비자 기기에서 6000 tok/s 프리필과 1200 tok/s 디코드를 달성합니다. Simple Attention Networks(FFN 없음)로 구축되어 여러 대형 모델을 도구 사용 벤치마크에서 능가합니다.

Atelier v0.3는 Claude Code를 통한 타겟팅된 마크다운 수정 기능을 추가합니다.
Atelier v0.3은 VS Code의 무료 확장 프로그램으로, 마크다운 문서의 일부를 강조 표시하여 Claude Code에 수정을 요청할 수 있습니다. 에이전트는 에디터 내에서 타겟팅된 수정 사항을 응답하며, 각 수정이 어떤 피드백을 해결했는지 추적할 수 있습니다.