RelayCode VS Code Extension leitet Claude-Code über souveräne RDUs weiter
OpenGPU hat RelayCode veröffentlicht, eine VS Code-Erweiterung, die als lokaler Proxy für KI-Coding-Agenten dient. Das Tool fängt Anfragen von Claude Code oder GitHub Copilot ab und leitet sie über das OpenGPU Relay-Netzwerk zu Open-Weight-Modellen weiter, die auf souveräner Infrastruktur laufen.
Wichtige Details
Die Erweiterung bietet mehrere spezifische Funktionen und Leistungsmerkmale:
- Infrastruktur: Workloads werden über Infercoms rekonfigurierbare Dataflow-Einheiten (RDUs) geleitet, die als dedizierte souveräne Rechenleistung ohne US-Jurisdiktion und mit GDPR-Konformität von Haus aus beschrieben werden.
- Leistung: Benchmarks zeigen 250+ Tokens pro Sekunde bei DeepSeek-R1 (671B) und 400+ Tokens pro Sekunde bei MiniMax M2.5. Modellwechsel sind nahezu verzögerungsfrei (Millisekunden) dank der Dataflow-Architektur.
- Kontextverwaltung: Die Erweiterung verwaltet automatisch
CLAUDE_AUTOCOMPACT-Einstellungen, um Agenten innerhalb der Modell-Kontextfenster zu halten, ohne Abstürze zu verursachen. - Datenschutz: Code bleibt auf dem lokalen Rechner; nur Inferenzanfragen erreichen das Relay-Netzwerk ohne Datenaufbewahrung.
- Aktueller Status: Das Team berichtet von etwa 23 Installationen und sucht Feedback zur Relay-Latenz von der Community.
- Zugang: Promo-Guthaben sind verfügbar, um RDU-Geschwindigkeiten kostenlos zu testen.
Das Tool wird als Möglichkeit positioniert, Anthropic-API-Kosten zu senken, während Claude-CLI-Workflows beibehalten werden, was besonders für Refactoring-Arbeiten nützlich ist.
📖 Quelle vollständig lesen: r/LocalLLaMA
👀 Siehe auch
Selbstgehostete Speicherschicht für Claude läuft kostenlos auf Cloudflare
Ein Cloudflare Worker MCP Server ermöglicht Claude, Notizen zu merken und per semantischer Suche abzurufen, basierend auf Workers AI und Vectorize – alles in der kostenlosen Stufe.
KI hat die Übersetzungsschicht gefressen: Das Organigramm nach Agenten
Ajey Gore argumentiert, dass KI keine Jobtitel ersetzt hat, sondern die Übersetzungsaufgabe. Die Mitte des Organigramms (Engineering Manager, Scrum Master, Tech Leads) schrumpft, da Agenten Anforderungen direkt in Code umsetzen.
Multi-Modell-Rat-Workflow für KI-Codierungsagenten
Ein Entwickler hat ein webbasiertes Tool erstellt, das Codieraufgaben durch drei KI-Modelle laufen lässt – GPT-4o als Architekt, Claude als Skeptiker und Gemini als Synthetisierer – bevor sie an Coding-Agenten weitergegeben werden. Das Tool generiert eine PLAN.md mit expliziten Einschränkungen und erfordert, dass Nutzer ihre eigenen API-Schlüssel mitbringen.
ApexClaw: Open-Source Telegram KI-Agent mit über 85 Tools für Webautomatisierung, Sprache und E-Mail
ApexClaw ist ein Open-Source-Telegram-AI-Agent, geschrieben in Go, der über 85 integrierte Tools bietet, darunter Web-Browsing mit Headless Chrome, Sprachnotizen-Verarbeitung, Gmail-Integration und Shell-Skript-Ausführung. Er ist selbst gehostet und nutzt die z.ai-Engine für die Argumentation.