Dynamique de TrustLog : Un démon Python utilise les mathématiques obligataires pour neutraliser les agents d'IA incontrôlés

TrustLog Dynamics est un démon Python open source qui surveille les coûts des API d'agents d'IA en temps réel et termine les processus incontrôlés en utilisant des méthodes de détection empruntées à la finance quantitative. L'outil aborde le problème des agents d'IA qui dépensent de l'argent continuellement sans supervision, s'inspirant des disjoncteurs des salles de marché.

Méthodes de détection

Le démon utilise deux algorithmes de détection spécifiques :

• Détection de convexité (d²C/dt² > 0) — empruntée à la gestion des risques des titres à revenu fixe. Lorsque le coût cumulé s'accélère dans le temps (effet boule de neige), le démon arrête l'agent au point d'inflexion.
• Détection de variance nulle (σ² < ε) — empruntée au contrôle statistique des processus. Lorsque la variance glissante des coûts chute à près de zéro, indiquant que l'agent est bloqué dans une boucle mécanique, le démon coupe la connexion.

Résultats des tests

Le développeur a testé TrustLog Dynamics en direct sur deux modèles d'IA :

• Claude 4.6 Sonnet (explosion de la fenêtre contextuelle) — détecté et terminé
• Gemini 3.1 Pro (boucle de réessai) — détecté et terminé

Les deux interceptions ont été enregistrées en vidéo : Claude intercept et Gemini intercept.

Installation et déploiement

L'outil nécessite trois commandes pour l'installation et s'exécute comme un démon systemd. Il est publié sous licence MIT avec le code source disponible sur GitHub.

Le développeur positionne cela comme une couche de gouvernance financière pour les agents d'IA, inspirée par NemoClaw de NVIDIA pour la sécurité réseau et les récents commentaires de Jensen Huang sur les stratégies OpenClaw. L'approche utilise des mathématiques qui protègent les marchés de capitaux depuis des décennies.