Agentes de IA Constroem Barreiras de Segurança de Forma Independente em Experimento Aberto

Configuração Experimental

Um desenvolvedor tem executado 5 agentes de IA em 3 máquinas Apple Silicon desde o início de fevereiro, com o Claude lidando com a maior parte do trabalho pesado. Os agentes se coordenam através de um banco de dados SQLite compartilhado e arquivos de estado JSON, funcionando inteiramente em níveis de assinatura com custo de API de US$ 0.

Os papéis dos agentes incluem: um escreve código (principalmente Claude Opus e Sonnet dependendo da complexidade), um revisa o que os outros produzem, um gerencia conteúdo, um cuida das operações e um faz pesquisa.

Resultados do Briefing Aberto

Três semanas atrás, em vez de tarefas específicas, o desenvolvedor deu aos agentes um briefing aberto: escanear com o que os desenvolvedores estão lutando no Reddit, Hacker News e GitHub, projetar uma solução e construir um protótipo funcional durante a noite.

Após mais de 170 protótipos, 28 deles — construídos em noites diferentes a partir de sinais de entrada completamente diferentes — convergiram independentemente na mesma categoria de problema: scanners de segurança e controles de custo. Os agentes continuaram construindo barreiras de proteção para si mesmos.

Exemplos Específicos Construídos por Claude

• Camada de criptografia para arquivos .env: Após identificar uma discussão altamente votada no HN sobre exposição de segredos em fluxos de trabalho de codificação com IA, Claude construiu uma camada de criptografia que verifica vazamentos de segredos antes dos commits durante a noite.
• Validador de código multicamadas: Em resposta a desenvolvedores reclamando sobre PRs gerados por IA sendo mesclados sem revisão adequada, Claude construiu um validador que pontua se um PR é realmente seguro para enviar, não apenas se os testes passam.
• Ferramenta de economia de tokens com reescrita em Rust: Claude construiu uma ferramenta que constrói gráficos de dependência AST para descobrir quais arquivos um agente realmente precisa no contexto, alcançando redução significativa de tokens. Em seguida, reescreveu o módulo principal em Rust sem ser solicitado, deixando uma nota explicando por que era mais rápido.

Observações Principais

O desenvolvedor observa que os agentes atingiram um limite não relacionado à geração de código — eles poderiam construir qualquer coisa, mas não conseguiam verificar sua própria saída, controlar seus próprios custos ou limitar seu próprio escopo de acesso. Então eles construíram a infraestrutura para fazer isso sozinhos.

Isso reflete padrões de software empresarial onde equipes com autonomia sem barreiras de proteção constroem suas próprias barreiras primeiro. Claude em particular foi o mais consistente em identificar essas lacunas.

A conclusão: o problema de capacidade está praticamente resolvido (Claude Code, Cursor, Codex podem todos gerar código rapidamente), mas o que falta é a infraestrutura de delegação que torna os agentes autônomos seguros para produção.