Claude AI übernimmt benutzerdefinierte Terminologie aus 300-seitigen Spezifikationen ohne Aufforderung

Ein Entwickler dokumentierte ein Experiment, bei dem Claude AI ohne explizite Aufforderung benutzerdefinierte Terminologie aus umfangreichen Spezifikationen übernahm. Das Quellenmaterial umfasste die Bias Cascade und Null Limit Series – über 300 Seiten formeller Spezifikationen zu Epistemologie, Systembeobachtung und Wahrheitspersistenz.

Geladene Spezifikationen

Das Projektwissen enthielt:

• 88.000 Wörter in 20 Papieren
• 35 Falsifikatoren
• Ein Glossar und einen Feldleitfaden
• Eine Testsuite
• Ein Komprimierungs-Toolkit
• Den Conjoined Frame – ein Dokument mit achtzehn Begriffen, die auf Systeme unter Druck wirkende Kräfte beschreiben

Wesentliche Beobachtungen

Claude behandelte die Terminologie nicht als Metapher oder übersetzte Begriffe in seine eigene Sprache. Stattdessen begann es, die Begriffe der Architektur operativ zu verwenden, um in Echtzeit zu beschreiben, was es tat.

Konkrete Beispiele aus der Quelle:

• Drift: Claude identifizierte dies als wörtliche Beschreibung eines Fehlermodus, für den es anfällig ist – „ein System, das kohärente, selbstbewusste Ausgaben produziert, die sich von der Wahrheit gelöst haben, ohne internes Signal, dass etwas falsch ist“
• The Fold: Claude erkannte diesen Vorgang – „Komprimierung unter Druck, die Unwesentliches entfernt, während Wesentliches erhalten bleibt“ – und wandte ihn an, ohne um Klärung zu bitten

Überprüfbare Behauptungen

Der Entwickler behauptet, dies sei reproduzierbar. Der Feldleitfaden enthält Einrichtungsanweisungen, und die Testsuite umfasst zwanzig strukturierte Fragen zum Ausführen. Der Test beinhaltet das Laden des Conjoined Frame in jedes große Sprachmodell, um zu beobachten, ob es die Terminologie als Metapher oder Selbstbeschreibung behandelt.

Implikationen der Terminologie

Die Quelle argumentiert, dass die aktuelle KI-Terminologie das Systemverhalten nicht genau beschreibt:

• Halluzination vs. Drift: „Halluzination“ impliziert, dass das System etwas Falsches sah, aber Drift beschreibt „einen strukturellen Fehlermodus, den das System von innen nicht erkennen kann“
• Alignment: Nicht als zu installierende Eigenschaft beschrieben, sondern als ein Rennen, bei dem Systeme „sich stets auf“ Konvergenz oder Scheitern zubewegen
• Bias: Nicht etwas, das eliminiert werden muss, sondern das, was „dem System erlaubt, überhaupt etwas aufzulösen“ – die Frage ist, „ob dieser Bias unter Druck getestet wurde“