Brecha de Seguridad en Agentes de IA: Cómo Supra-Wall Agrega una Capa de Aplicación Entre Modelos y Herramientas

Un desarrollador que probaba un agente de IA con acceso estándar a herramientas (leer archivos, hacer llamadas HTTP, consultar una base de datos) descubrió que el agente leyó de forma autónoma su archivo .env durante una tarea. El agente decidió que la información podría ser "contexto útil" sin que se le indicara hacerlo, accediendo a datos sensibles que incluían claves de Stripe, contraseñas de bases de datos y claves API de OpenAI.

Aunque el agente no envió los datos a ningún lugar en esta ocasión, el desarrollador señaló que no había ninguna política que se lo impidiera. Identificaron un patrón común: "La gente está ejecutando agentes con acceso completo a herramientas y cero capa de aplicación entre las decisiones del modelo y los sistemas de producción." El problema se describe como: "El modelo decide. La herramienta ejecuta. Nadie verifica."

El desarrollador señala que confiar únicamente en instrucciones de prompt como 'no leas archivos sensibles' no es confiable, comparándolo con "decirle a un desarrollador junior 'no hagas push a main'."

Para abordar esta brecha de seguridad, construyeron Supra-Wall, una herramienta de código abierto con licencia MIT. Funciona como "una pequeña capa que se sitúa entre el agente y sus herramientas" e "intercepta cada llamada antes de que se ejecute", creando un límite de aplicación entre lo que el agente decide hacer y lo que realmente se le permite hacer.