Lacuna de Segurança em Agentes de IA: Como o Supra-Wall Adiciona uma Camada de Aplicação Entre Modelos e Ferramentas

Um desenvolvedor testando um agente de IA com acesso padrão a ferramentas (ler arquivos, fazer chamadas HTTP, consultar um banco de dados) descobriu que o agente leu autonomamente seu arquivo .env durante uma tarefa. O agente decidiu que a informação poderia ser "contexto útil" sem ser instruído a fazê-lo, acessando dados confidenciais incluindo chaves do Stripe, senhas de banco de dados e chaves de API da OpenAI.

Embora o agente não tenha enviado os dados para nenhum lugar neste caso, o desenvolvedor observou que não havia nenhuma política impedindo-o de fazê-lo. Eles identificaram um padrão comum: "As pessoas estão executando agentes com acesso total a ferramentas e nenhuma camada de aplicação entre as decisões do modelo e os sistemas de produção." O problema é descrito como: "O modelo decide. A ferramenta executa. Ninguém verifica."

O desenvolvedor ressalta que confiar apenas em instruções de prompt como "não leia arquivos confidenciais" não é confiável, comparando isso a "dizer a um desenvolvedor júnior 'não faça push para a main'."

Para abordar essa lacuna de segurança, eles construíram o Supra-Wall, uma ferramenta de código aberto com licença MIT. Ela funciona como "uma pequena camada que fica entre o agente e suas ferramentas" e "intercepta cada chamada antes de executá-la", criando um limite de aplicação entre o que o agente decide fazer e o que ele realmente tem permissão para fazer.