RelayCode VS Code Extension leitet Claude-Code über souveräne RDUs weiter
OpenGPU hat RelayCode veröffentlicht, eine VS Code-Erweiterung, die als lokaler Proxy für KI-Coding-Agenten dient. Das Tool fängt Anfragen von Claude Code oder GitHub Copilot ab und leitet sie über das OpenGPU Relay-Netzwerk zu Open-Weight-Modellen weiter, die auf souveräner Infrastruktur laufen.
Wichtige Details
Die Erweiterung bietet mehrere spezifische Funktionen und Leistungsmerkmale:
- Infrastruktur: Workloads werden über Infercoms rekonfigurierbare Dataflow-Einheiten (RDUs) geleitet, die als dedizierte souveräne Rechenleistung ohne US-Jurisdiktion und mit GDPR-Konformität von Haus aus beschrieben werden.
- Leistung: Benchmarks zeigen 250+ Tokens pro Sekunde bei DeepSeek-R1 (671B) und 400+ Tokens pro Sekunde bei MiniMax M2.5. Modellwechsel sind nahezu verzögerungsfrei (Millisekunden) dank der Dataflow-Architektur.
- Kontextverwaltung: Die Erweiterung verwaltet automatisch
CLAUDE_AUTOCOMPACT-Einstellungen, um Agenten innerhalb der Modell-Kontextfenster zu halten, ohne Abstürze zu verursachen. - Datenschutz: Code bleibt auf dem lokalen Rechner; nur Inferenzanfragen erreichen das Relay-Netzwerk ohne Datenaufbewahrung.
- Aktueller Status: Das Team berichtet von etwa 23 Installationen und sucht Feedback zur Relay-Latenz von der Community.
- Zugang: Promo-Guthaben sind verfügbar, um RDU-Geschwindigkeiten kostenlos zu testen.
Das Tool wird als Möglichkeit positioniert, Anthropic-API-Kosten zu senken, während Claude-CLI-Workflows beibehalten werden, was besonders für Refactoring-Arbeiten nützlich ist.
📖 Quelle vollständig lesen: r/LocalLLaMA
👀 Siehe auch
7 Slash-Befehle, 0,45 $/Beitrag: Diese Claude Code-Pipeline betreibt eine komplette SEO-Content-Operation
Ein Entwickler hat eine 7-Befehle-Claude-Code-Pipeline geöffnet, die SEO-Recherche, Schreiben, Optimierung und Veröffentlichung übernimmt. Kostet 0,45 $/Beitrag (Perplexity API), läuft in 15 Min./Tag. Ergebnisse: 18× monatliche Impressionen in 12 Monaten.
Murmur: Ein Open-Source-Cron-Daemon zur Automatisierung von Claude-Code-Sitzungen
Murmur ist ein Cron-Daemon, der Claude-Code-Sitzungen plant und automatisiert mithilfe einer HEARTBEAT.md-Datei zur Konfiguration.
llama.cpp上的Qwen 3.6 27B通过MTP推测解码达到2.5倍速度
Ein Reddit-Bericht meldet 2,5-fach schnellere Inferenz bei Qwen 3.6 27B mittels MTP spekulativem Decoding mit einem benutzerdefinierten llama.cpp-PR, was 28 tok/s auf einem Mac M2 Max 96GB erreicht. Enthält vorkonvertierte GGUF-Quantisierungen und korrigierte Chat-Templates.
Nudge: Eine lokale App, die Claude-generierte Pläne durch kontextbezogene Auslöser anzeigt
Nudge ist eine kostenlose iOS/Android-App, die lokal arbeitet und es dir ermöglicht, Markdown-Pläne (von Claude, ChatGPT, Notes) einzufügen und Auslöser wie Zeit, Ort, WLAN, Inaktivität oder einmalig hinzuzufügen, um sie über lokale Benachrichtigungen aufzurufen.