クロード・シャノンの1950年のチェス論文が予測したGenAIの核心的問題：推測と知識

クロード・シャノンが1950年に発表した論文『Programming a Computer for Playing Chess』は、単なる歴史的な珍品ではない。それは、今日の生成AIの語り方に対する直接的な批判である。シャノンは完璧なチェスを目指したのではなく、「まあまあ良い」チェスを目指した。問題空間は網羅的な計算には大きすぎるため、機械は可能性を評価し、利用可能な信号に基づいて最善のものを選ばなければならなかった。これはまさに現代のLLMが機能する方法である。つまり、真理ではなくトークンを予測するのだ。

重要な洞察：不完全さへの許容度は文脈に依存する

シャノンは早期にAIへの期待値を引き下げた。完璧な性能は現実的ではないことを理解していた。同じことが今日の生成AIにも当てはまる。必要なのは魔法ではなく、フィクションに迷い込まずに有用であることだ。問題は文脈に依存する。議事録が凡庸でも誰も気にしない。しかし、幻覚による製品バージョンの誤りで顧客が誤ったセットアップ手順を受け取った場合、「まあまあ良い」は法的責任となる。

首尾一貫性≠正確性

シャノンは、機械が自信を持って推測することを理解していた。現代のAIも同様に機能する。つまり、良い答えのように見える応答を生成する。心理学者はこれを処理流暢性と呼ぶ。読みやすいものほど、真実と判断されやすい。しかし、首尾一貫した出力でも、重要な前提条件が欠落したり、互換性のない製品バージョンを混在させたり、手順を省略したりすることがある。応答が穏やかで完全に聞こえるときこそ、注意すべき時である。

開発者とテクニカルライターへの示唆

AIエージェント上に構築している場合や、RAGパイプラインに投入するドキュメントを書いている場合、シャノンのフレームワークは直接適用できる。流暢な回答が正しい回答だと決めつけてはいけない。AIの出力を近似値として扱い、特に製品構成、セットアップ手順、バージョン固有の手順が関わる場合には検証が必要である。