Le ping-pong de l'IA : quand chaque réponse est une capture d'écran de ChatGPT

Un fil de discussion Hacker News avec 104 points et 48 commentaires capture une frustration grandissante chez les développeurs : être inondé de réponses générées par l'IA, hors contexte, souvent erronées, et transmises par des gens qui ne les ont manifestement pas lues.

Ce qui se passe

L'auteur original (theorchid) décrit trois incidents :

• Il a trouvé un malware sur GitHub, a demandé conseil à une IA — rien d'utile. Il a ouvert une discussion GitHub. Première réponse : le même texte que l'IA lui avait donné. Il l'a signalé, le commentaire a été supprimé. Deuxième réponse : à nouveau la même réponse de l'IA.
• Il a posé une question à un chef d'entreprise au travail. Il a reçu une capture d'écran ChatGPT en retour. Il a répondu que c'était faux. Une minute plus tard : une autre capture ChatGPT. Le chef n'a jamais lu aucune des deux réponses.
• Il a reçu un MP sur Reddit, a répondu, l'échange a continué. Après quelques messages, il a réalisé que c'était un agent IA.

D'autres développeurs ajoutent des histoires similaires. programmertote raconte : « La semaine dernière, mon patron, Chief Data and Analytics Officer, a balancé une proposition générée par IA (~7 pages) sur la façon de structurer une couche sémantique au-dessus de nos modèles dbt. En tant que responsable de l'ingénierie des données, j'ai dû la lire et j'ai trouvé quelques problèmes flagrants… Hier, un de mes collègues a partagé un autre brouillon de 5 pages, visiblement généré par IA, d'une procédure opérationnelle standard pour réintégrer d'anciens indicateurs. Je pense que nous allons tous finir par devenir des relecteurs de productions IA. »

jadar se demande si nous serons bientôt obligés d'exécuter les sorties IA au lieu de les partager : « Si vous pouvez raisonner pour aboutir à un système fonctionnel, vous savez de quoi vous parlez. Sinon, ça ne vaut pas la peine de prendre le temps de le comprendre. »

Réponses pratiques

• jochem9 : « Demandez-leur de partager leur prompt à la place. Cela les confronte à leur blague IA et donne une façon de partager ce qu'ils ont réellement pensé. »
• LPisGood : « Pourquoi ne pas demander à votre IA de relire leur charabia IA ? Ce qui peut être envoyé sans réflexion peut être répondu sans réflexion. »
• sixtyj envisage des réponses automatiques : « Ce texte a été généré automatiquement et n'a pas été relu avant d'être envoyé. C'est de la merde IA et je refuse de le lire. Recommencez. Et faites mieux. »

À retenir pour les développeurs

Transférer aveuglément des sorties IA érode la confiance et crée du travail inutile pour les relecteurs. Établir une norme — partager le prompt, raisonner sur la sortie, ou risquer d'être ignoré — pourrait ralentir ce ping-pong IA. Comme l'a dit un commentateur : établir un consensus selon lequel distribuer du charabia IA non lu n'est pas acceptable.