O Ping-Pong da IA: Quando Toda Resposta é um Print do ChatGPT

Um tópico no Hacker News com 104 pontos e 48 comentários captura uma frustração crescente entre desenvolvedores: ser inundado por respostas geradas por IA que são descontextualizadas, frequentemente erradas e encaminhadas por pessoas que claramente não as leram.

O que está acontecendo

O autor original (theorchid) descreve três incidentes:

• Encontrou malware no GitHub, pediu conselho a uma IA — não obteve nada útil. Abriu uma discussão no GitHub. Primeira resposta: exatamente o mesmo texto que a IA havia dado. Denunciou, comentário foi deletado. Segunda resposta: a mesma resposta da IA novamente.
• Fez uma pergunta a um empresário no trabalho. Recebeu um print do ChatGPT de volta. Respondeu que estava errado. Um minuto depois: outro print do ChatGPT. O empresário nunca leu nenhuma das respostas.
• Recebeu um DM no Reddit, respondeu, houve troca de mensagens. Depois de algumas mensagens, percebeu que era um agente de IA.

Outros desenvolvedores se juntam com histórias semelhantes. programmertote relata: “Na semana passada, meu chefe, Diretor de Dados e Analytics, me enviou uma proposta gerada por IA (~7 páginas) sobre como estruturar uma camada semântica sobre nossos modelos dbt. Como líder de Engenharia de Dados, tive que lê-la e encontrei alguns problemas gritantes… Ontem, um colega compartilhou outro rascunho de 5 páginas, obviamente gerado por IA, de um POP sobre como reintegrar métricas antigas. Acho que todos nos tornaremos revisores de saída de IA eventualmente.”

jadar se pergunta se em breve seremos forçados a executar a saída da IA em vez de compartilhá-la: “Se você consegue raciocinar até chegar a um sistema funcional, você sabe do que está falando. Caso contrário, não vale a pena perder tempo tentando descobrir.”

Respostas práticas

• jochem9: “Peça para eles compartilharem o prompt. Isso expõe o bla bla bla da IA e oferece um caminho para compartilhar o que realmente pensaram.”
• LPisGood: “Por que não pedir para sua IA revisar a porcaria da IA deles? Aquilo que é enviado sem pensar pode ser respondido sem pensar.”
• sixtyj imagina respostas automatizadas: “Este texto foi gerado automaticamente e não foi revisado antes de ser enviado. É lixo de IA e me recuso a lê-lo. Faça de novo. E faça melhor.”

Lição para devs

Encaminhar cegamente saída de IA corrói a confiança e gera trabalho extra para revisores. Estabelecer uma norma — compartilhe o prompt, reflita sobre a saída, ou arrisque ser ignorado — pode diminuir o pingue-pongue da IA. Como um comentarista disse: estabeleça um consenso de que distribuir lixo de IA não lido não é aceitável.