KI-Modelle verfügen nicht über Selbstkenntnis ihrer eigenen Werkzeuge und Benutzeroberflächen.

Ein entscheidender Usability-Mangel bei KI-Codierungsassistenten wurde identifiziert: Modelle wie ChatGPT und Claude verfügen häufig nicht über genaue Kenntnisse ihrer eigenen Werkzeuge und Benutzeroberflächen. Wenn Benutzer nach Funktionen fragen, die auf ihren Bildschirmen sichtbar sind, antwortet die KI oft mit falschen Informationen.

Konkrete Beispiele des Problems

Laut Benutzerberichten zeigen diese Modelle mehrere konsistente Fehlermuster:

• Existierende Funktionen leugnen: Wenn Claude Code einen neuen Slash-Befehl anzeigt und Benutzer fragen, was er tut, bestreitet das Modell die Existenz des Befehls.
• Veraltete Versionen beschreiben: Wenn nach Funktionen wie Speicher, Integrationen oder Einstellungen in ChatGPT gefragt wird, liefert das Modell Antworten basierend auf UI-Versionen von vor 1-2 Jahren.
• Plausibel klingende Erfindungen machen: Die Modelle erfinden manchmal Erklärungen, die vernünftig klingen, aber nicht mit der tatsächlichen Funktionalität übereinstimmen.

Aktuelle Workarounds und ihre Grenzen

Der einzige verfügbare Workaround besteht darin, die KI zu zwingen, es "nachzuschlagen" über Web-Fetch-Funktionalität, aber dieser Ansatz hat erhebliche Probleme:

• Fetch-Operationen schlagen oft komplett fehl
• Die KI greift häufig auf falsche Dokumentation zu
• Inhalte können aufgrund von Berechtigungen oder Verfügbarkeitsproblemen unzugänglich sein

Ursachenanalyse

Das Kernproblem resultiert aus der grundlegenden Diskrepanz zwischen KI-Trainingsmethodik und Produktentwicklungszyklen. Diese Modelle werden auf historische Momentaufnahmen von Daten trainiert, aber die Produkte, in die sie eingebettet sind, entwickeln sich kontinuierlich weiter. Dies führt zu einer Situation, in der die KI mit dem Werkzeug, das sie Benutzern bedienen helfen soll, nicht mehr synchron ist.

Warum dies ein kritischer Designfehler ist

Wenn eine KI in eine Produktoberfläche integriert ist, muss sie genaue, aktuelle Kenntnisse bewahren über:

• Ihre eigenen Funktionen
• Ihre eigene Benutzeroberfläche
• Ihre eigenen Befehle und Fähigkeiten

Ohne dieses Selbstwissen schadet die KI der Usability aktiv, anstatt sie zu verbessern, und erzeugt Verwirrung und reduziert das Vertrauen in das Werkzeug.

Vorgeschlagene Lösungen

Die Quelle schlägt mehrere architektonische Verbesserungen vor:

• Eine live, strukturierte "Selbstwissen"-Schicht innerhalb des Produkts, die als interne API oder Schema aktueller Funktionen fungiert
• Ein kleines, kontinuierlich aktualisiertes Modell, speziell auf die aktuelle UI und Fähigkeiten trainiert
• Ein Abfragesystem, bei dem das Hauptmodell auf diese Selbstwissen-Schicht zugreifen kann, wenn es produktbezogene Fragen beantwortet

Das grundlegende Prinzip ist, dass KI in der Lage sein sollte, ihre eigene Umgebung zu introspektieren, anstatt auf Basis veralteter Trainingsdaten zu raten.