L'article d'échecs de Claude Shannon en 1950 a prédit le problème central du GenAI : deviner vs. savoir

L'article de Claude Shannon de 1950 Programming a Computer for Playing Chess n'est pas une simple curiosité historique : c'est une critique directe de la façon dont nous parlons de l'IA générative aujourd'hui. Shannon ne visait pas le jeu d'échecs parfait, mais un jeu d'échecs assez bon. L'espace du problème était trop vaste pour un calcul exhaustif ; la machine devait évaluer les possibilités et choisir la meilleure selon les signaux disponibles. C'est exactement ainsi que fonctionnent les LLM modernes : ils prédisent des tokens, pas des vérités.

Idée clé : la tolérance à l'imperfection dépend du contexte

Shannon a rapidement tempéré les attentes en matière d'IA. Il savait qu'une performance parfaite n'était pas réaliste. La même chose s'applique à l'IA générative aujourd'hui : nous n'avons pas besoin de magie, mais d'utilité sans sombrer dans la fiction. Le problème dépend du contexte. Si un résumé de réunion est médiocre, personne ne s'en soucie. Si un client reçoit des instructions d'installation erronées à cause de versions de produits hallucinées, le « assez bon » devient une responsabilité juridique.

Cohérence ≠ exactitude

Shannon comprenait que la machine faisait des suppositions avec assurance. L'IA moderne fonctionne de la même manière : elle produit des réponses qui ressemblent à de bonnes réponses. Les psychologues appellent cela la fluidité de traitement : plus quelque chose est facile à lire, plus on a tendance à le juger vrai. Mais une sortie cohérente peut encore omettre des prérequis critiques, mélanger des versions de produits incompatibles ou sauter des étapes. La réponse peut sembler mesurée et complète, c'est précisément à ce moment-là qu'il faut s'inquiéter.

Ce que cela signifie pour les développeurs et les rédacteurs techniques

Si vous construisez sur la base d'agents IA ou rédigez de la documentation qui alimente des pipelines RAG, le cadre de Shannon est directement applicable. Ne supposez pas qu'une réponse fluide est correcte. Traitez les sorties d'IA comme des approximations nécessitant une vérification, surtout lorsque la configuration du produit, les étapes d'installation ou les procédures spécifiques à une version sont impliquées.