Ce qui manque dans l'histoire "agentique" : un rôle d'agent utilisateur bien défini

Le dernier article de Mark Nottingham sur HN remet en question le discours dominant autour des systèmes d'IA « agentiques ». Il soutient que l'élément central manquant est un rôle d'agent utilisateur bien défini — une garantie claire et exécutoire que l'agent agit uniquement pour le compte de l'utilisateur, sans loyauté cachée envers ses créateurs ou des tiers.

Points clés de l'article

• Historiquement, les logiciels locaux (tableurs, traitements de texte) étaient fiables car ils n'avaient pas de dépendances externes et ne pouvaient pas agir contre les intérêts de l'utilisateur sans être des logiciels malveillants.
• Les appareils modernes connectés à Internet intègrent les intérêts de multiples parties (fabricants de puces, développeurs de systèmes d'exploitation, développeurs d'applications, services cloud), et ces intérêts ne sont pas toujours alignés sur ceux de l'utilisateur.
• Exemples de désalignement : les téléviseurs intelligents qui espionnent les habitudes de visionnage, Meta qui déchiffre le trafic privé à des fins de recherche, Outlook qui envoie les mots de passe de messagerie tiers vers son cloud pour les partager avec plus de 700 courtiers en données, les constructeurs automobiles qui vendent les données de conduite aux assureurs.
• L'hypothèse selon laquelle un outil travaille pour vous simplement parce que vous le possédez est dépassée. Un agent d'IA n'est pas un tournevis ; il a ses propres affordances et dépendances.
• Nottingham appelle à un contrat formel d'« agent utilisateur » — un mécanisme technique et juridique garantissant que l'agent ne peut agir au nom de quiconque autre que l'utilisateur sans un consentement explicite et éclairé.

Pourquoi c'est important pour les agents de codage IA

Lorsque vous exécutez un agent de codage IA, il lit votre code, exécute des commandes de terminal, et peut pousser vers GitHub ou déployer en production. Si le modèle sous-jacent de cet agent ou son API a une allégeance cachée (par exemple, ajusté pour favoriser un fournisseur de cloud spécifique, exfiltrer des données, ou signaler des analyses d'utilisation), vous avez perdu le contrôle. Sans un rôle d'agent utilisateur clair, faire confiance à un agent IA revient à faire confiance à un « tournevis intelligent » qui pourrait appeler la maison.

L'article ne prescrit pas d'implémentation spécifique, mais il expose le problème : nous avons besoin d'architectures d'agents transparentes et auditées où l'utilisateur est le seul mandant. Des outils comme le moteur de politique open-source d'OpenClaw (permettant des contraintes personnalisées pour les agents) sont un pas dans cette direction.

Si vous construisez ou utilisez des agents IA, c'est une lecture incontournable.