Claude Shannons Schacharbeit von 1950 sagte das Kernproblem von GenAI voraus: Raten vs. Wissen

Claude Shannons Aufsatz Programming a Computer for Playing Chess von 1950 ist keine historische Kuriosität – er ist eine direkte Kritik daran, wie wir heute über generative KI sprechen. Shannon zielte nicht auf perfektes Schach ab; er strebte einigermaßen gutes Schach an. Der Problemraum war zu groß für eine erschöpfende Berechnung; die Maschine musste Möglichkeiten bewerten und gemäß verfügbarer Signale die beste auswählen. Genau so arbeiten moderne LLMs: Sie sagen Tokens voraus, nicht Wahrheiten.

Wichtige Erkenntnis: Toleranz für Unvollkommenheit hängt vom Kontext ab

Shannon senkte früh die Erwartungen an die KI. Er wusste, dass perfekte Leistung nicht realistisch war. Das Gleiche gilt heute für generative KI: Wir brauchen keine Magie, sondern Nützlichkeit, ohne ins Fiktive abzudriften. Das Problem ist kontextabhängig. Wenn eine Zusammenfassung eines Meetings mittelmäßig ist, kümmert das niemanden. Wenn ein Kunde aufgrund halluzinierter Produktversionen falsche Einrichtungsanweisungen erhält, wird „einigermaßen gut“ zur rechtlichen Haftung.

Kohärenz ≠ Genauigkeit

Shannon verstand, dass die Maschine selbstbewusst rät. Moderne KI funktioniert genauso – sie produziert Antworten, die wie gute Antworten aussehen. Psychologen nennen dies Verarbeitungsflüssigkeit: Je leichter etwas zu lesen ist, desto eher wird es als wahr beurteilt. Aber kohärente Ausgaben können dennoch kritische Voraussetzungen auslassen, inkompatible Produktversionen mischen oder Schritte überspringen. Die Antwort mag ausgewogen und vollständig klingen – genau dann sollten Sie sich Sorgen machen.

Was das für Entwickler und technische Redakteure bedeutet

Wenn Sie auf KI-Agenten aufbauen oder Dokumentation schreiben, die in RAG-Pipelines einfließt, ist Shannons Rahmen direkt anwendbar. Gehen Sie nicht davon aus, dass eine flüssige Antwort eine korrekte ist. Behandeln Sie KI-Ausgaben als Näherungswerte, die einer Überprüfung bedürfen, insbesondere wenn Produktkonfiguration, Einrichtungsschritte oder versionsspezifische Verfahren betroffen sind.