Definition von „produktiver KI-Psychose“: Wenn hohe KI-Leistung Wert zerstört

Der Psychiater Jeff Clark, MD, setzt seine Serie über „KI-Psychose" fort und definiert die zweite von drei Kategorien: produktive KI-Psychose. Seine Definition: Eine Person erzeugt eine große Menge an KI-Output, ohne den tatsächlichen Wert ihrer Arbeit wesentlich zu steigern — und in manchen Fällen zerstört der neue KI-Workflow sogar aktiv Wert.

Das Kernsymptom: Man kann den eigenen Output nicht beurteilen

Clarks Beispiel ist ein Softwareentwickler, der täglich Tausende Codezeilen produzieren kann, wobei der Code kaum praktischen Nutzen hat. Im Gegensatz dazu steht ein produktiver Entwickler, der vielleicht weniger Code schreibt, aber Code liefert, der für Nutzer und Organisation wertvoll ist. Seine Darstellung:

• An manchen Tagen kommen große Mengen neuer Code zur Codebasis hinzu.
• An anderen Tagen wird unnötiger Code gelöscht.
• Gelegentlich wird ein softwarezerstörender Bug durch die Änderung eines einzigen Zeichens behoben.

Die Anzahl der Codezeilen korreliert nur lose mit Produktivität. Seine Autoren-Analogie: Wenn ein Autor, den Sie mögen, respektable 1.000 Wörter pro Tag schreibt, würden Sie sich zu Recht Sorgen machen, wenn er plötzlich 100.000 Wörter pro Tag schreibt — die Sorgfalt, die in die Auswahl von 1.000 großartigen Wörtern fließt, lässt sich bei 100-fachem Volumen nicht aufrechterhalten.

Der entscheidende Punkt: Das Problem ist nicht der gesteigerte Output. Mehr Code und mehr Text können tatsächlich produktiver sein. Das Problem ist die Wahrnehmung der Betroffenen von ihrem eigenen Output. Sie können die Qualität ihrer eigenen Arbeit nicht einschätzen. Clark sagt, dies ähnle einer Psychose als leichte Abkopplung von der Realität — ein Defekt im kritischen Denken.

Warum Agenten-Harnesses die Einsätze erhöhen

Clark unterscheidet zwischen Chat-Nutzung (ChatGPT-Gespräche, Gemini-Zusammenfassungen in der Google-Suche) und modernsten Tools, die in einen Agenten-Harness eingebettet sind — ein Programm, das darauf ausgelegt ist, an komplexen Aufgaben zu arbeiten, bis eine Lösung gefunden ist, Entscheidungen trifft, Programme öffnet, auf das Internet zugreift und Software schreibt.

Sein konkretes Beispiel: Vor zehn Jahren bedeutete eine iPhone-App Dutzende Stunden Lesen und Schreiben von Code. Heute tippt man ein paar Sätze in Claude Code, beantwortet ein paar Fragen, und in Minuten entsteht eine App. Harnesses können auch Schleifen erzeugen, die wiederholt Modelle aufrufen und eine Softwareentwicklungs-To-do-Liste abarbeiten, bis eine vollständige App gebaut ist.

Die Fehlermodi, die er auflistet:

• Mehrere neue Dateien werden erstellt, obwohl ein Ein-Zeilen-Fix gereicht hätte.
• Selbstsichere Behauptungen, dass eine neue Lösung funktioniert, während die eigentliche Software kaputter ist als je zuvor.
• Code wird zu einem wirren Durcheinander, das schwer zu lesen und fast unmöglich zu erweitern ist.
• Jahrzehntealte Probleme, die bereits durch Open-Source-Bibliotheken gelöst wurden, werden von Grund auf neu gebaut, was das Produkt schmerzhaft langsam macht.

Clarks Zusammenfassung aktueller Modelle: Sie sind „ein Teil Senior-Engineer und ein Teil Kleinkind, das mit einer Kanne roter Kool-Aid über den weißen Teppich rennt." Ihre Aufgabe ist es, herauszufinden, welcher Teil welcher ist — und er merkt an, dass beide Seiten mit völliger Überzeugung sprechen. Es gibt Gegenmaßnahmen, aber die Entwicklung dieses Urteilsvermögens ist eine Fähigkeit, die Zeit braucht.

Die anderen beiden Kategorien

Teil 1 behandelte echte KI-Psychose (echte psychotische Erfahrungen im Zusammenhang mit der Nutzung von LLMs, die seiner Argumentation nach im Allgemeinen eine Variante einer bereits bestehenden Psychose und kein neues Syndrom ist). Eine dritte Kategorie, parasoziale KI-Psychose, umfasst maladaptive Beziehungen zu Chatbots, die menschliche Verbindung nachahmen.