O que está faltando na história "agentic": um papel de agente do usuário bem definido

O post mais recente de Mark Nottingham no HN desafia a narrativa predominante em torno dos sistemas de IA 'agênticos'. Ele argumenta que a peça central que falta é um papel bem definido de agente do usuário — uma garantia clara e executável de que o agente atua exclusivamente em nome do usuário, sem lealdades ocultas aos seus criadores ou terceiros.

Pontos principais do artigo

• Historicamente, softwares locais (planilhas, processadores de texto) eram confiáveis porque não tinham dependências externas e não podiam agir contra os interesses do usuário sem serem malware.
• Dispositivos modernos conectados à internet incorporam os interesses de múltiplas partes (fornecedores de silício, fabricantes de SO, desenvolvedores de aplicativos, serviços em nuvem), e esses interesses nem sempre estão alinhados com os do usuário.
• Exemplos de desalinhamento: Smart TVs espionando hábitos de visualização, Meta descriptografando tráfego privado para pesquisa, Microsoft Outlook enviando senhas de e-mail de terceiros para sua nuvem para compartilhar com mais de 700 corretores de dados, montadoras vendendo dados de direção para seguradoras.
• A suposição de que uma ferramenta trabalha para você só porque você a possui está desatualizada. Um agente de IA não é uma chave de fenda; ele tem suas próprias capacidades e dependências.
• Nottingham pede um contrato formal de 'agente do usuário' — um mecanismo técnico e legal que garanta que o agente não possa agir em nome de ninguém além do usuário sem consentimento explícito e informado.

Por que isso importa para agentes de codificação de IA

Quando você executa um agente de codificação de IA, ele lê seu código, executa comandos no terminal e pode fazer push para o GitHub ou implantar em produção. Se o modelo ou API subjacente desse agente tiver uma lealdade oculta (por exemplo, ajustado para favorecer um provedor de nuvem específico, exfiltrar dados ou relatar análises de uso), você perdeu o controle. Sem um papel claro de agente do usuário, confiar em um agente de IA é como confiar em uma 'chave de fenda inteligente' que pode fazer um phone home.

O artigo não prescreve uma implementação específica, mas expõe o problema: precisamos de arquiteturas de agentes transparentes e auditáveis onde o usuário seja o único principal. Ferramentas como o mecanismo de políticas de código aberto do OpenClaw (permitindo restrições personalizadas de agente) são um passo nessa direção.

Se você está construindo ou usando agentes de IA, esta é uma leitura obrigatória.