Critique pratique de la mémoire des LLM : réflexions immuables et sessions éphémères comme solutions

Les sessions à long terme, les agents compagnons de vie, les wikis LLM et la mémoire persistante sont devenus des modèles populaires dans le développement assisté par IA. Mais une critique détaillée sur r/openclaw soutient que ces modèles introduisent des problèmes systématiques qui l'emportent souvent sur leurs avantages. Les problèmes clés et les solutions proposées méritent d'être compris avant d'investir dans une couche mémoire ou un agent persistant.

Les Problèmes Fondamentaux

• Obsolescence : La plupart des informations deviennent obsolètes. Les mises à jour constantes entraînent des coûts et créent une taxe de maintenance du système qui vous fait vous demander : « Est-ce que je fais la tâche, ou est-ce que je gère le système censé faire la tâche ? »
• Perte d'intention : Chaque passage dans un LLM mélange partiellement l'intention brute avec du bruit. Les passages uniques vont bien, mais la curation d'un wiki LLM garantit une perte de signal en cascade.
• Surcharge de contexte : Les modèles deviennent plus stupides à mesure que le contexte s'allonge. Plusieurs tâches en parallèle forcent le modèle à inférer des connexions fallacieuses et à se concentrer sur le bruit.
• Déchets entrants, déchets sortants : Un LLM avec des connaissances partiellement erronées est souvent pire qu'un LLM sans connaissances. Il biaise vers la représentation défectueuse.
• Erreurs de traduction : Votre description de votre vie → ce que vous savez → ce que le modèle comprend → ce qu'il note → comment il met à jour. Avec des couches statistiques LLM, le résultat est de la « boue ».
• Surcharge de sélection d'outils : Un agent qui connaît 30 serveurs MCP et outils est une métacognition inutile. Laissez-le simplement faire son travail.
• Boucles d'auto-amélioration sans retour : Les systèmes qui optimisent dans l'abstrait, en rendant le système plus biaisé vers une interprétation passée qui continue de se propager, ne sont pas pratiques.

Solutions Proposées

• Réflexions immuables : Remplacez la mémoire mutable par des instantanés immuables du raisonnement à des points clés. Cela évite l'accumulation de déchets entrants/déchets sortants et la dérive de l'intention.
• Chaînes de sessions éphémères liées à une tâche : Limitez chaque session à un seul problème ou tâche. Jetez le contexte une fois le problème résolu. Cela contourne la surcharge de contexte et les frais de maintenance.
• Modèles de prompt : Utilisez des prompts bien rédigés par tâche plutôt que de laisser un agent construire une mémoire libre. Un travailleur n'a pas besoin de savoir pourquoi il fait le travail si la tâche est bien écrite.
• Critique indépendante : Un agent expert de domaine complètement indépendant (sans mémoire de votre passé) est souvent un meilleur interlocuteur qu'un sycophante qui sait tout ce que vous avez jamais dit.

L'auteur met en garde contre le fait de laisser les agents prendre des décisions stratégiques ; vous devez rester aux commandes. L'article invite à la discussion et reconnaît qu'il s'agit d'opinions, mais le raisonnement pratique est solide pour quiconque construit des agents qui persistent d'une session à l'autre.