Googles HEIR-Compiler: Praktische private KI mit homomorpher Verschlüsselung

Google hat HEIR (Homomorphic Encryption Intermediate Representation) als Open Source veröffentlicht, einen Compiler, der vortrainierte KI-Modelle so umwandelt, dass sie mit verschlüsselten Eingaben arbeiten. Dies ermöglicht kryptographisch sichere private KI-Inferenz – der Server verarbeitet Chiffretexte, ohne jemals die zugrunde liegenden Daten zu sehen.
Warum HEIR?
Homomorphe Verschlüsselung war lange Zeit aufgrund des massiven Rechenaufwands unpraktikabel. HEIR will das ändern, indem es eine Compiler-Toolchain bereitstellt, die die Konvertierung bestehender Modelle automatisiert, sodass kein Team von Kryptographen mehr nötig ist. Das Projekt ist Teil von Googles Private Computing Toolkit, das bereits Differential Privacy, Private Set Membership und Private Information Retrieval umfasst.
Hauptmerkmale
- Ein-Klick-Ziel: Die Vision ist, HEIR zu einer Ein-Klick-Lösung für Nicht-Experten zu machen, um verschlüsselte Inferenz in die Produktion zu integrieren.
- Hardware-Beschleuniger: Google hat mit Belfort, Niobium, Cornami und Optalysys zusammengearbeitet, um dedizierte Hardware für homomorphe Verschlüsselung zu entwickeln. Die Latenzvorteile dieser Beschleuniger sind für Demos in naher Zukunft geplant.
- Forschungsplattform: HEIR wird bereits in Kooperationen mit Georgia Tech, Carnegie Mellon, UC Santa Barbara, Purdue und anderen eingesetzt, mit vier begutachteten Veröffentlichungen, die darauf basieren.
Demo-Anwendungen
Google hat vier private Inferenzanwendungen vorgestellt, die mit HEIR kompiliert wurden, mit Latenzmessungen auf einer Single-Thread-CPU. Der Quellcode ist im GitHub-Repository verfügbar.
- Deep Learning Recommendation Model – private Inhaltsempfehlungen (gemeinsame Arbeit mit Belfort Labs, LG, NYU).
- Kreditkartenbetrugserkennung – kompiliert mit Niobium und hardshell.ai.
- Bedrohungserkennung – Kitsune-System zur Anomalieerkennung auf verschlüsseltem Netzwerkverkehr, ohne Paketinhalte preiszugeben.
- Hotword-Erkennung – ermöglicht sprachgesteuerten KI-Agenten, Hotwords privat zu erkennen (mit Belfort Labs).
Diese Demos zeigen, dass homomorphe Verschlüsselung nicht mehr theoretisch ist – sie ist bereit für reale Anwendungen in Branchen wie Gesundheitswesen und Finanzen, in denen Datenschutz entscheidend ist.
Der Code für alle Beispiele ist auf GitHub verfügbar. Den vollständigen Blogbeitrag mit detaillierten Latenzzahlen finden Sie hier.
📖 Vollständige Quelle lesen: HN AI Agents
👀 Siehe auch
UI und Server für Anthropics Natural Language Autoencoder auf llama.cpp
Ein benutzerdefinierter llama.cpp-Server und eine Mikupad-Benutzeroberfläche für Anthropics Open-Weight Natural Language Autoencoder, die Aktivierungsextraktion, Erklärung, Rekonstruktion und Steuerung durch Bearbeitung von Erklärungen unterstützen.

Oh-My-Mermaid: Claude-Code-Fähigkeit zur automatischen Generierung von Architekturdiagrammen
Oh-My-Mermaid ist eine Claude Code-Fähigkeit, die Codebasen analysiert und automatisch Mermaid-Architekturdiagramme sowie Dokumentation generiert. Es wird über npm installiert und mit dem Befehl /omm-scan in Claude Code verwendet.

GoStaff: Go-Neufassung von OpenClaw mit 100-facher Speicherreduzierung
GoStaff ist eine in Go neu geschriebene Version von OpenClaw, die etwa 100-mal weniger Speicher (~17 MB) verbraucht und gleichzeitig die Kompatibilität mit OpenClaw-Plugins über einen JavaScript-Shim beibehält. Es verfügt über ein dreistufiges Skill-System, eine einheitliche Postgres-Persistenz und Multi-Provider-ReAct-Schleifen.

Ruflo: Open-Source-Plattform zum Betrieb mehrerer KI-Agenten als Team
Ruflo ist eine Open-Source-Plattform, mit der Sie viele KI-Agenten zusammenarbeiten lassen können, um als Team an komplexen Aufgaben zu arbeiten. Früher als Claude Flow bekannt, hilft es bei der Koordination von Workflows, bei denen Aufgaben in Teile zerlegt werden müssen.