RelayPlane Proxy Open Source Affiche une Réduction de Coût de 73 % avec l'Acheminement vers le Modèle Claude

Proxy Open Source pour le Routage de l'API Claude

RelayPlane est un proxy open source natif npm qui se place devant l'API Anthropic. L'outil a été construit avec Claude Code, ce qui a accéléré le développement. Il est gratuit à auto-héberger et conçu pour gérer le routage entre différents modèles Claude en fonction de la complexité des prompts.

Résultats de Benchmark et Configuration

Le benchmark a utilisé une charge de travail mixte avec 60 % de tâches simples et 40 % de tâches complexes. Deux scénarios ont été comparés :

• Direct (tout Sonnet) : latence p50 1,55 s, coût par 10 requêtes 0,0323 $
• Via RelayPlane avec routage : latence p50 0,78 s, coût par 10 requêtes 0,0086 $

Cela représente une réduction de coût de 73,4 %. À 10 000 requêtes par jour, cela se traduit par environ 712 $ d'économies mensuelles.

Configuration de Routage

La configuration de routage est simple :

{
  "routing": {
    "complexity": {
      "enabled": true,
      "simple": "claude-haiku-4-5",
      "moderate": "claude-sonnet-4-6",
      "complex": "claude-opus-4-6"
    }
  }
}

La logique de routage utilise un classificateur de complexité qui examine le nombre de tokens, les indicateurs de code et les mots-clés analytiques. Les en-têtes de réponse incluent x-relayplane-routed-model pour vérifier quel modèle a réellement traité la requête.

Tarification des Modèles et Logique de Routage

Le système de routage dirige les prompts vers les modèles appropriés en fonction de leur complexité :

• Prompts simples → Haiku (0,80 $ par million de tokens)
• Prompts modérés → Sonnet (3 $ par million de tokens)
• Prompts complexes → Opus (15 $ par million de tokens)

L'auteur note que le classificateur n'est pas parfait mais est "suffisamment bon pour capturer la plupart des économies". La méthodologie complète du benchmark est disponible dans un Gist lié dans le matériel source.