16 faiblesses architecturales corrigées dans un système d'agent IA

Problèmes Architecturaux et Solutions

Un développeur a partagé son expérience de correction des faiblesses architecturales d'un système d'agent IA OpenClaw. Au lieu d'essayer de rendre le système plus intelligent, il s'est concentré sur la gouvernance et le contrôle. Voici les 16 problèmes qu'il a identifiés et comment il les a corrigés.

Problème 1 : Deviner Où Se Trouvaient les Défaillances

Correctif : Définition explicite des couches : Chat, Runtime embarqué, Orchestration de session, Passerelle, Registre, Exécution. Une fois les couches cartographiées, une défaillance à la Couche 4 a cessé d'être mal diagnostiquée comme une dérive de l'intelligence.

Problème 2 : Le Système Pouvait S'exécuter Sans Autorisation Explicite

Correctif : Introduction d'une couche d'autorisation stricte par passerelle. Rien ne s'exécute sans validation de jeton et confirmation du registre. L'intelligence n'équivaut pas à une permission.

Problème 3 : Une Autorité Implicite Était Possible

Correctif : Refus par défaut. Même si une permission latente existe quelque part dans le contexte, elle est ignorée à moins d'être explicitement déclarée dans le registre. Le silence n'accorde pas d'accès.

Problème 4 : Les Agents Pouvaient Tenter des Actions Sans Preuve

Correctif : Preuve Requise pour Poursuivre. Avant que certaines capacités ne s'exécutent, l'agent doit démontrer qu'il y est autorisé. L'autorisation est prouvée, non supposée.

Problème 5 : La Mémoire Pouvait Gonfler avec du Bruit

Correctif : Porte de Promotion. La Couche 2 capture l'expérience brute. La Couche 3 ne reçoit que de l'intelligence sélectionnée. Pas de promotion automatique de la mémoire. L'apprentissage se mérite.

Problème 6 : Les Journaux S'accumulaient Mais N'amélioraient Pas la Stabilité

Correctif : Agent de Triage des Journaux. Revue horaire. Notation de gravité P0 à P4. Problèmes récurrents identifiés. Gravité faible supprimée. Bruit réduit. Signal préservé.

Problème 7 : Le Système Pouvait Dériver au Démarrage

Correctif : Démarrage Déterministe. Chemins canoniques validés. Pas de répertoires de secours. Alignement des jetons requis. La dérive déclenche un échec. Le démarrage est prévisible ou il s'arrête.

Problème 8 : La Base de Données Était Trop Exposée

Correctif : Limite de Superposition. Journalisation d'événements en ajout seul. Couche de lecture/écriture contrôlée. Pas de mutation directe. La mémoire est protégée des modifications par hallucination.

Problème 9 : Le Comportement Était Réparti sur Trop de Fichiers

Correctif : AGENTS.md comme Autorité. Source unique de vérité comportementale. Lu à chaque début de session. Architecture de la mémoire déclarée, non déduite. La gouvernance réside en un seul endroit.

Problème 10 : La Défaillance Était Difficile à Isoler

Correctif : Clarté de l'Architecture en Couches. Une fois les limites explicites, les erreurs sont devenues localisées. Quand les couches sont isolées, la stabilité augmente.

Problème 11 : L'Apprentissage et l'Exécution Étaient Flous

Correctif : Séparation de l'Expérience vs l'Intelligence. La Couche 2 journalise. La Couche 3 sélectionne. L'exécution nécessite une autorisation de la Couche 4. Pas de boucles d'exécution auto-évolutives.

Problème 12 : Les Appels d'Outils Pouvaient Être Bloqués Mais Non Diagnostiqués

Correctif : Application du Registre. Le registre des capacités est devenu le seul plan de contrôle. Si ce n'est pas déclaré, cela ne peut pas s'exécuter.

Problème 13 : Les Avertissements Pouvaient Modifier l'État d'Exécution

Correctif : Modèle d'Échec Rapide. Les avertissements ne modifient pas le comportement. L'échec arrête la mutation. La prévisibilité plutôt que le théâtre de la résilience.

Problème 14 : La Sécurité Était Basée sur des Politiques, Non sur l'Architecture

Correctif : Sécurité par la Structure. Refus par défaut. Promotion explicite. Autorisation explicite. Application des limites. La sécurité est appliquée par l'architecture, non par l'intention.

Problème 15 : Les Journaux Étaient de l'Histoire, Pas de l'Intelligence

Correctif : Journal d'Expérience en Ajout Seul. Tout est préservé. Rien n'est automatiquement raisonné à partir de cela. Les données historiques sont pour un aperçu médico-légal, pas pour une dérive autonome.

Problème 16 : La Pile Était Complexe Mais Non Cartographiée

Correctif : Aperçu de la Pile de Gouvernance. Ils ont défini : Couche 1 Chat, Couche 2 Expérience, Couche 3 Orchestration, Couche 4 Autorisation, Couche 5 Registre, Couche 6 Exécution. Maintenant, l'échelle est limitée par le contrôle.

Ce Qui a Changé

Ils ont cessé d'essayer de rendre l'agent plus intelligent et l'ont rendu responsable. Ils ont remplacé le comportement implicite, la dérive silencieuse et l'ambiguïté des permissions par une architecture déclarée, une promotion contrôlée et une autorité explicite.

📖 Lire la source complète : r/openclaw

Comment un développeur a corrigé 16 faiblesses architecturales dans son système d'agent IA