Definindo 'Psicose de IA Prolífica': Quando a Alta Produção de IA Destrói o Valor

O psiquiatra Jeff Clark, MD, continua sua série sobre "psicose de IA" definindo a segunda de três categorias: psicose de IA prolífica. Sua definição: a pessoa gera uma grande quantidade de saída de IA sem aumentar significativamente o valor real do seu trabalho — e, em alguns casos, o novo fluxo de trabalho com IA destrói valor ativamente.

O sintoma central: você não consegue julgar a própria produção

O exemplo de Clark é um engenheiro de software que consegue produzir milhares de linhas de código todos os dias, mas com pouca utilidade no mundo real. Contraste isso com um desenvolvedor produtivo, que pode escrever menos código, mas gera código valioso para usuários e para a organização. Seu enquadramento:

• Alguns dias são grandes adições ao código.
• Outros dias são gastos apagando código desnecessário.
• De vez em quando, um bug que quebra o software é corrigido mudando um único caractere.

Linhas de código se correlacionam apenas vagamente com produtividade. Sua analogia com autores: se um escritor de quem você gosta produz respeitáveis 1.000 palavras por dia, você se preocuparia com razão se ele de repente passasse a escrever 100.000 palavras por dia — o cuidado necessário para escolher 1.000 palavras excelentes não pode ser mantido a um volume 100 vezes maior.

O ponto-chave: o problema não é o aumento da produção. Mais código e mais texto podem, de fato, ser mais produtivos. O problema é a percepção que a pessoa tem da própria produção. Ela não consegue avaliar a qualidade do próprio trabalho. Clark diz que isso se assemelha à psicose como uma leve desconexão da realidade — um defeito no pensamento crítico.

Por que os harness de agentes elevam as apostas

Clark distingue o uso no estilo chat (conversas no ChatGPT, resumos do Gemini na busca do Google) das ferramentas de ponta envolvidas em um harness de agente — um programa projetado para trabalhar em tarefas complexas até encontrar uma solução, tomando decisões, abrindo programas, acessando a internet e escrevendo software.

Seu exemplo concreto: há dez anos, um app para iPhone significava dezenas de horas lendo e escrevendo código. Hoje você digita algumas frases no Claude Code, responde algumas perguntas e um app surge em minutos. Os harness também podem criar loops que chamam modelos repetidamente, percorrendo uma lista de tarefas de desenvolvimento de software até construir um app completo.

Os modos de falha que ele lista:

• Vários arquivos novos criados quando uma correção de uma linha teria resolvido o problema.
• Afirmações confiantes de que uma nova solução funciona, enquanto o software real está mais quebrado do que nunca.
• O código se torna uma bagunça emaranhada, difícil de ler e quase impossível de estender.
• Problemas de décadas já resolvidos por bibliotecas open-source são reconstruídos do zero, deixando o produto dolorosamente lento.

O resumo de Clark sobre os modelos atuais: eles são "uma parte engenheiro sênior e uma parte criança pequena correndo pelo tapete branco com um jarro de Kool-Aid vermelho." Seu trabalho é determinar qual é qual — e ele observa que ambos os lados falam com total confiança. Existem mitigações, mas desenvolver esse julgamento é uma habilidade que leva tempo.

As outras duas categorias

A Parte 1 abordou a verdadeira psicose de IA (experiências psicóticas genuínas relacionadas ao uso de LLMs, que, segundo ele, em geral são uma variante de uma psicose preexistente, e não uma nova síndrome). Uma terceira categoria, a psicose de IA parassocial, cobre relacionamentos disfuncionais com chatbots que imitam conexão humana.