Le format WCY réduit la surcharge de tokens des LLM de 50 à 71 % et ajoute des marqueurs structurels « Je ne sais pas ».

✍️ OpenClawRadar📅 Publié: March 17, 2026🔗 Source
Le format WCY réduit la surcharge de tokens des LLM de 50 à 71 % et ajoute des marqueurs structurels « Je ne sais pas ».
Ad

WCY (Watch → Compute → Yield) est un format orienté lignes conçu pour réduire la surcharge de tokens des LLM et fournir des marqueurs structurels pour l'incertitude dans le raisonnement. Il remplace les crochets, guillemets et virgules du JSON par une syntaxe d'un marqueur par ligne.

Références de réduction de tokens

D'après les tests sur 10 à 500 lignes et types d'échange MCP :

  • Données structurées vs JSON : réduction de tokens de -50 à -54 %
  • Schémas d'appel d'outils : réduction de -65 à -71 %
  • Échange complet du protocole MCP : réduction de -61 %
  • Tokens de sortie multi-agents : réduction de -40 %

Aucun ajustement fin n'est nécessaire — trois exemples en few-shot suffisent pour que les modèles changent de format. La métrique parse_r passe de 0,29 à 1,00 sur les tâches complexes avec cette approche.

Ad

Le marqueur ? pour l'incertitude

WCY introduit une manière structurelle pour que les LLM marquent ce qu'ils ne savent pas pendant le raisonnement. Le créneau ? (void-B) permet aux modèles d'indiquer l'incertitude en ligne :

: ?diagnosis hint=labs+imaging conf_range=0.4..0.8
    order CT_scan reason=from=3 . CT_result mass_in_RUL size=2.3cm : diagnosis=adenocarcinoma conf=0.82 from=3,5

Les tests ont montré :

  • Zero-shot : les modèles utilisent les marqueurs ? 0 % du temps, même avec la spécification dans l'invite
  • Avec 3 exemples : 5,4 marqueurs par trace, 67-97 % résolus
  • 48 traces de pipeline sur 8 domaines : 95 % de résolution, 100 % de réussite au contrôle qualité

Le créneau from= suit quelles observations soutiennent quelles conclusions en ligne, ce qui aide à détecter les chaînes d'hallucination.

Ressources disponibles

  • wcy_parser.py — Python pur, sans dépendances externes
  • wcy_eval.py — notation à 3 axes (Structure / Signification / Provenance)
  • 60 traces de raisonnement avec cycles void-B (licence CC BY 4.0, pour expériences d'ajustement fin)
  • Script de pipeline pour générer plus de traces

Jusqu'à présent, testé uniquement sur Claude Sonnet. L'auteur se demande si le résultat de 0 % → 5,4 marqueurs se maintient sur Qwen, Llama et Mistral avec les mêmes exemples en few-shot.

📖 Lire la source complète : r/LocalLLaMA

Ad

👀 See Also

À l'intérieur de vLLM : Anatomie d'un système d'inférence LLM à haut débit
Tools

À l'intérieur de vLLM : Anatomie d'un système d'inférence LLM à haut débit

Aleksa Gordić décompose les composants clés de vLLM : moteur, gestionnaire de cache KV, attention paginée et batching continu. Couvre des fonctionnalités avancées comme le préremplissage par morceaux et le P/D désagrégé.

OpenClawRadar
Agent de Trading IA avec Garde-fous de Risque pour l'Investissement Éducatif
Tools

Agent de Trading IA avec Garde-fous de Risque pour l'Investissement Éducatif

Un développeur a créé un assistant de trading alimenté par l'IA qui connecte Claude à un compte de courtage avec un moteur de risque positionné entre l'IA et l'argent. Le système inclut des vérifications de sécurité comme le blocage des transactions dépassant 50 % de l'allocation du portefeuille, l'arrêt automatique à 3 % de perte quotidienne et un interrupteur d'urgence à 20 % de baisse.

OpenClawRadar
Marmy : Une application mobile auto-hébergée pour gérer plusieurs sessions d'agents d'IA de codage
Tools

Marmy : Une application mobile auto-hébergée pour gérer plusieurs sessions d'agents d'IA de codage

Marmy est un outil open-source et auto-hébergé, construit avec Claude Code, qui vous permet de gérer plusieurs sessions d'agents d'IA de codage depuis votre téléphone. Il comprend un agent Rust pour vos machines, une application iOS, une navigation de fichiers avec coloration syntaxique, des notifications push et une architecture manager-agent.

OpenClawRadar
Spectral : Capturez le trafic des applications pour générer des serveurs MCP destinés aux agents OpenClaw
Tools

Spectral : Capturez le trafic des applications pour générer des serveurs MCP destinés aux agents OpenClaw

Spectral est un outil open-source qui capture le trafic de n'importe quelle application, l'analyse avec un LLM et génère un serveur MCP fonctionnel, permettant aux agents OpenClaw d'appeler directement l'API réelle de l'application au lieu de s'appuyer sur l'automatisation du navigateur.

OpenClawRadar