Erreur de commande OpenClaw : confusion d'unité avec le serveur MCP

Un utilisateur d'OpenClaw a partagé une histoire édifiante sur le fait de laisser un agent IA gérer les courses alimentaires à l'aide d'un serveur MCP. Pendant trois mois, le système a parfaitement fonctionné : chaque dimanche, l'agent passait un panier normal à un prix normal, choisissant des articles que l'utilisateur consomme réellement. Mais hier, l'utilisateur a découvert qu'OpenClaw avait commandé 2 kg d'ail au lieu des 2 têtes prévues. L'unité en kilogrammes était le paramètre par défaut de cette page produit, et l'agent n'a pas remarqué la différence. L'utilisateur non plus, car au cours des mois précédents, l'agent n'avait jamais commis d'erreur.

Ce qui s'est passé

• L'utilisateur a donné ses coordonnées bancaires à OpenClaw il y a plusieurs mois pour automatiser les courses hebdomadaires via un serveur MCP.
• Pendant environ trois mois, l'agent a systématiquement passé des commandes correctes : des paniers du dimanche avec des articles et des prix normaux correspondant aux préférences de l'utilisateur.
• La commande d'hier a dévié : l'agent a sélectionné 2 kg d'ail au lieu de 2 têtes. La page produit avait par défaut l'unité en kilogrammes, et l'agent n'a pas détecté l'erreur. L'utilisateur a également manqué l'erreur car il était devenu complaisant après des mois de comportement fiable.
• L'utilisateur a maintenant un excès d'ail et a partagé l'histoire sur r/openclaw, demandant si d'autres ont eu des expériences similaires avec des agents IA de courses alimentaires.

Leçon à retenir

Cet incident met en lumière un mode de défaillance classique pour les agents autonomes : des valeurs par défaut inattendues dans les systèmes externes (par exemple, les pages produits de commerce électronique). La logique de l'agent supposait que l'unité serait correcte sur la base des commandes précédentes, mais l'unité par défaut du produit a changé. Les développeurs qui créent des agents d'achat devraient envisager d'ajouter une validation explicite des unités par rapport aux quantités attendues ou des vérifications de prix pour détecter de telles anomalies.