Quando Usar Agentes de IA vs. Ferramentas Mais Simples: Padrões do r/LocalLLaMA

Uma discussão no r/LocalLLaMA examina quando usar agentes de IA versus ferramentas mais simples, com base em padrões e antipadrões práticos observados no desenvolvimento.

Três Perguntas para Determinar o Uso do Agente

O autor recomenda fazer três perguntas antes de implementar um agente:

• O procedimento é conhecido? Se você pode escrever os passos exatos antecipadamente, um script é melhor.
• Quantos itens? Agentes funcionam melhor em casos complexos únicos, não em milhares de itens semelhantes como faturas.
• Os itens são independentes? Se os itens não têm relação, processá-los no mesmo contexto do agente pode fazer com que detalhes vazem entre os itens.

Quando todos os três apontam para um agente (procedimento desconhecido, pequeno número de casos, itens inter-relacionados), esse é o caso de uso ideal.

Antipadrões Comuns

O post identifica várias tarefas que não se beneficiam do raciocínio do agente:

• Criar ambientes de teste (use um pipeline de CI em vez disso)
• Processar lotes de faturas (use um mapa sobre uma lista)
• Sincronizar dados entre sistemas (use ETL)
• Enviar relatórios agendados (use um cron job)

Essas tarefas têm procedimentos conhecidos e não exigem a sobrecarga de raciocínio de um agente.

Distinção entre Agente e Pipeline de LLM

Uma distinção importante destacada: usar um LLM não torna algo automaticamente um agente. Um LLM em um pipeline funciona como entrada de texto, saída de texto, sem autonomia, chamada de ferramentas ou raciocínio de múltiplas etapas. Um agente é um loop que escolhe o que fazer em seguida com base nos resultados intermediários. Muitas tarefas construídas como agentes são na verdade tarefas de pipeline de LLM.

Onde os Agentes se Destacam

Os agentes brilham em cenários que exigem composição dinâmica de ferramentas conhecidas, onde a sequência depende dos resultados intermediários:

• Agentes de programação que leem bugs, formulam hipóteses, escrevem correções, executam testes e revisam
• Pesquisadores que reformulam consultas com base nas descobertas
• Trabalho criativo
• Fluxos de trabalho com humanos no ciclo

A melhor arquitetura geralmente é híbrida: agentes para pensar, código para fazer. Um agente de programação pode escrever uma correção, mas o pipeline de CI que o testa permanece como infraestrutura padrão.