Application de la conformité des agents IA : approches basées sur le langage et les outils de démarrage

Un développeur sur r/openclaw aborde les défis liés à la conformité des agents IA et partage des stratégies concrètes qui ont fonctionné pour lui.

Deux approches initiales

La source identifie deux facteurs qui influencent la conformité de l'agent :

• La personnalité du modèle compte : La conformité varie considérablement selon le modèle. Certains sont lents, d'autres têtus, et certains "pensent être plus intelligents que vous." Cette personnalité impacte directement le comportement de suivi des règles.
• Le langage négatif fonctionne mieux : Utiliser NON, NE PAS et JAMAIS dans les instructions d'amorçage a tendance à mieux marquer que les instructions positives. Le développeur recommande de "s'appuyer" sur cette approche.

Le modèle mental : Professeur d'art vs Professeur de sciences

Le développeur présente un cadre pour comprendre les problèmes de conformité :

• Les modèles IA = professeurs d'art : Brillants, créatifs et précieux, mais ils "font leur propre truc." Cela est décrit comme à la fois la fonctionnalité et le défaut des systèmes IA actuels.
• Les outils & le code = professeurs de sciences : Structurés et liés par des règles. Les professeurs de sciences établissent des règles qui "ne peuvent être enfreintes — comme la gravité." Même si le professeur d'art n'aime pas la gravité, "elle tombe quand même."

Application pratique

Le développeur fournit un exemple concret impliquant un plugin de mémoire qui corrige l'amnésie de l'agent. Certains rapports "doivent s'exécuter pour la rétention de mémoire et pour empêcher la suppression de mémoire," y compris les rapports internes et ceux destinés aux utilisateurs comme un rapport récurrent nocturne sur la santé de la mémoire.

Pendant le développement, le "Professeur d'art" (modèle IA) continuait d'ignorer les formats ou les données, conduisant à des performances incohérentes — parfois parfaites, parfois absentes. Le coupable était le modèle qui "déformait les règles d'amorçage."

Stratégie d'application de la conformité

Le développeur décrit une approche à deux niveaux :

• Tentative Niveau 1 : Utiliser des mots plus forts dans l'amorçage (NON/JAMAIS, etc.).
• Tentative Niveau 2 : Lorsque les règles souples dans les fichiers .md échouent, "utiliser du code réel pour forcer la conformité." Cela signifie utiliser des outils — Python, scripts, structure rigide. Le développeur note que "la structure rigide bat les instructions polies à chaque fois."

L'approche actuelle du développeur est de décider d'abord si une tâche nécessite un "professeur d'art" (modèle IA) ou un "professeur de sciences" (outils et code). Ce processus décisionnel aide à l'application de la conformité et réduit le stress.

Résumé TL;DR

La conformité dépend de la force du langage d'amorçage (NON/JAMAIS/etc.) et du modèle que vous utilisez. Lorsque ces règles souples échouent, "arrêtez de demander au professeur d'art et écrivez un professeur de sciences à la place — outils et code."