Kognitive Kapitulation: Wenn KI-Agenten Code schreiben, den du nicht verstehst

Sie schreiben einem Ingenieur wegen eines großen PRs. Sie stellen eine echte Architekturfrage, und er kann sie nicht beantworten. Niemand kann es. Es ist ein riesiger Diff, alle sind in Eile, also wird er genehmigt und ungelesen gemerged. So sieht es aus, wenn KI ihren eigenen Code überprüft. Derselbe Agent, der seine eigene Arbeit prüft, ist wie ein Schüler, der seine eigene Prüfung benotet. Es besteht immer.

Dieses Szenario ist das Herzstück eines aktuellen Artikels auf Manager.dev, der untersucht, was passiert, wenn Entwickler nicht nur die Codegenerierung, sondern auch die Entscheidungsfindung an KI-Assistenten wie Claude übergeben. Der Autor, der über die Antwort "Ich weiß nicht, Claude hat das geschrieben" schreibt, hebt ein wachsendes Problem hervor: kognitive Kapitulation.

Was ist kognitive Kapitulation?

Der Artikel unterscheidet zwei Begriffe:

• Kognitives Auslagern – Delegieren an die KI, aber die Verantwortung für die Antwort behalten.
• Kognitive Kapitulation – wenn die KI-Ausgabe stillschweigend zu Ihrer Ausgabe wird und Sie das Gefühl haben, dass nichts mehr zu überprüfen ist.

Für Softwareentwickler verschiebt sich die Grenze zwischen den beiden an den meisten Tagen unter Ihren Füßen, und die meisten von uns überschreiten sie, ohne es zu merken. Das Problem wird verstärkt, wenn KI-generierter Code ungeprüft bleibt, was zu einer Situation führt, in der weder der Autor noch die Prüfer die Codebasis verstehen.

Wie es passiert

Der Artikel beschreibt ein typisches Szenario:

1. Sie haben eine Aufgabe, die nicht klein ist, also beginnen Sie eine Planungssitzung mit Claude und verwenden die berühmte Superpowers-Brainstorming-Fähigkeit.
2. Sie lesen den Plan gründlich, korrigieren ein paar Probleme und senden ihn zur Ausführung.
3. Sie überprüfen den Code, er sieht gut aus, Sie korrigieren kleine Probleme mit ein paar Eingabeaufforderungen und senden ihn zur Überprüfung.
4. Als Nächstes kommt eine größere Aufgabe. Sie ist mehrdeutig. In einer Welt vor KI würden Sie sie in kleinere Teile zerlegen, aber Sie haben es eilig.
5. Claude erstellt einen Plan, der vernünftig klingt, also gehen Sie direkt zur Ausführung über. Das Ergebnis funktioniert. Sie überfliegen den Code, öffnen einen PR und machen weiter.
6. Sie haben gerade den Teil übersprungen, in dem Sie tatsächlich verstanden haben, was vor sich geht.

Im besten Fall stellt der prüfende Ingenieur Fragen, die Sie nicht vollständig verstehen. Im schlimmsten Fall ist es ein sehr großer PR, alle sind in Eile, und er wird einfach genehmigt und gemerged. Niemand hat es verstanden – weder der Autor noch die Prüfer.

Warum es schwer zu widerstehen ist

Der Autor teilt eine persönliche Erfahrung: Er verbrachte 2-3 Stunden in einer Planungssitzung mit Claude für eine ehrgeizige Mission. Mitten in der Ausführung fühlte er sich verloren – zu viele bewegliche Teile und Entscheidungen, die Claude getroffen hatte. Er gab schließlich /clear ein und setzte alles zurück. Es gab zwei Probleme:

• Er begann mit einer vagen Vorstellung davon, was er erreichen wollte.
• Er verstand nicht genug in dem Bereich, in dem er arbeitete.

Wenn Ihr Plan vage ist und Sie nicht genug wissen, um selbst Entscheidungen zu treffen, delegieren Sie die Entscheidungen am Ende an Claude. Wie Googles Director of Engineering Addy Osmani schrieb, ist die Grenze zwischen der Nutzung von Claude und dem Laufenlassen sehr verschwommen, und es erfordert viel Anstrengung, der Versuchung zu widerstehen.

Ein Ansatz: Jede Zeile überprüfen

Der Artikel bietet einen alternativen Ansatz. Für eine kleinere Aufgabe – Hinzufügen von Ereignisverfolgung über Segment zur internen KI-Agenten-Infrastruktur – plante der Autor mit Claude und überprüfte dann jede Änderung in der IDE, bevor er sie committete. Für Dateien, die er nicht verstand, bat er Claude um Erklärungen. Wenn die Antwort keinen Sinn ergab, änderte er den Code und überprüfte ihn erneut. Als er jede Dateiänderung verstand, verstand er die gesamte Lösung.

Der Autor öffnete den PR und erhielt großartige Kommentare von leitenden Ingenieuren – und konnte tatsächlich darauf antworten, anstatt sich wie ein Fisch hinter einem Felsen zu verstecken.

Wichtigste Erkenntnis

Wenn Sie KI-Codierungsagenten verwenden, stellen Sie sicher, dass Sie den Code verstehen, für den Sie verantwortlich sind. Lassen Sie nicht zu, dass die KI alle Entscheidungen trifft. Überprüfen Sie jede Änderung, stellen Sie Fragen und öffnen Sie niemals einen PR, den Sie nicht verstehen.