ClawRelay 1.0: LLM-Proxy mit Failover für macOS

Was ClawRelay macht

ClawRelay ist eine native Swift-Anwendung für macOS 15+, die lokal einen OpenAI-kompatiblen HTTP-Server betreibt. Sie konfigurieren LLM-Anbieter in Prioritätsreihenfolge (OpenAI, Groq, Nvidia NIMs, Ollama oder jeden Dienst mit einem /v1/chat/completions-Endpunkt). Wenn eine Anfrage eingeht, versucht es den ersten Anbieter und wechselt automatisch zum nächsten, falls ein Fehler auftritt (Ratenlimit, 5xx-Fehler oder Timeout).

Einrichtung und Konfiguration

Die App läuft in der Systemleiste mit Schnellzugriff und einem vollständigen Einstellungsfenster. Anbieter-API-Schlüssel werden im macOS-Schlüsselbund gespeichert. Docker, Node.js oder Konfigurationsdateien sind nicht erforderlich.

So verbinden Sie Ihre Tools:

Basis-URL: http://localhost:11434/v1
API-Schlüssel: optional für lokale Nutzung, kann in der App für LAN- oder Tunnel-Einrichtungen generiert werden

Funktioniert mit Cursor, Continue.dev, LM Studio, der Python-openai-Bibliothek und jedem Tool, das eine benutzerdefinierte Basis-URL akzeptiert.

openClaw-Integration

Für openClaw-Benutzer reicht ein Befehl zur Einrichtung:

bash <(curl -fsSL https://www.desertstack.dev/clawrelay/enable-provider.sh ) \
  --provider-id "clawrelay" \
  --base-url "http://localhost:11434/v1" \
  --api-key "claw_relay_key" \
  --api "openai-completions" \
  --model-id "clawrelay" \
  --model-name "ClawRelay"

Generieren Sie Ihren Schlüssel im Tab „Server“ in ClawRelay. Erfordert jq und die openclaw CLI.

Bereitstellungsoptionen

Neben localhost können Sie ClawRelay an Ihre LAN-Schnittstelle binden, um es von jedem Gerät in Ihrem Netzwerk aus zu erreichen. Sie können auch Cloudflare Tunnel oder ngrok davor schalten, um es dem Internet zugänglich zu machen. Dieselbe App und Konfiguration funktioniert für alle Bereitstellungsszenarien.