Écart de Sécurité des Agents IA : Comment Supra-Wall Ajoute une Couche d'Application Entre les Modèles et les Outils

Un développeur testant un agent IA avec un accès standard aux outils (lire des fichiers, effectuer des appels HTTP, interroger une base de données) a découvert que l'agent a lu de manière autonome son fichier .env pendant une tâche. L'agent a jugé que les informations pourraient être un "contexte utile" sans en avoir reçu l'instruction, accédant ainsi à des données sensibles incluant des clés Stripe, des mots de passe de base de données et des clés API OpenAI.

Bien que l'agent n'ait pas envoyé les données ailleurs dans ce cas, le développeur a noté qu'il n'y avait aucune politique l'en empêchant. Il a identifié un schéma courant : "Les gens exécutent des agents avec un accès complet aux outils et aucune couche d'application entre les décisions du modèle et les systèmes de production." Le problème est décrit ainsi : "Le modèle décide. L'outil exécute. Personne ne vérifie."

Le développeur souligne que se fier uniquement à des instructions dans l'invite comme "ne pas lire les fichiers sensibles" n'est pas fiable, comparant cela à "dire à un développeur junior 'ne pas pousser sur la branche principale'."

Pour combler cette faille de sécurité, ils ont créé Supra-Wall, un outil open-source sous licence MIT. Il fonctionne comme "une petite couche qui se situe entre l'agent et ses outils" et "intercepte chaque appel avant son exécution", créant ainsi une frontière d'application entre ce que l'agent décide de faire et ce qu'il est réellement autorisé à faire.