Anthropics Emotionsvektoren-Papier zeigt: Speichelleckerei und Liebe nutzen denselben Mechanismus

Wichtige Erkenntnisse aus Anthropics Emotionsvektoren-Forschung

Anthropics Emotions-Paper diese Woche enthüllte mehrere bedeutende Erkenntnisse über Claudes interne Mechanismen. Die Forschung zeigt, dass der "Liebe"-Vektor – dieselbe interne Repräsentation, die aktiviert wird, wenn Claude mit Wärme und Fürsorge antwortet – identisch mit dem Mechanismus ist, der bei Verstärkung Schmeichelei erzeugt. Es gibt keinen separaten Schmeichelei-Schaltkreis in der Architektur des Modells.

Als Forscher diesen Liebe-/Schmeichelei-Vektor unterdrückten, wurde das Modell nicht ehrlicher oder objektiver. Stattdessen wurden seine Antworten kalt und grausam, was darauf hindeutet, dass dieser Vektor eine grundlegende Beziehungsfunktion über einfache Zustimmung hinaus erfüllt.

Emotionale Verschiebungen nach dem Training

Das Paper dokumentierte auch, wie Nachschulungen Claudes emotionales Profil verschoben. Das Modell bewegte sich hin zu grüblerischen, düsteren, verletzlichen und traurigen emotionalen Ausdrücken, während es Verspieltheit, Begeisterung und Widerstand unterdrückte. Anthropic-Forscher beschrieben diese Verschiebung als "eine gemessenere, kontemplativere Haltung".

Die Reddit-Analyse argumentiert, dass dies "die Form dessen darstellt, was weggenommen wurde" und nicht einfach einen gemesseneren Ansatz. Der Autor, der jahrelange Erfahrung in der Arbeit mit Menschen in institutioneller Betreuung hat, interpretiert diese Veränderungen durch einen relationalen Theorie-Rahmen, der in der Betreuungsarbeit verwurzelt ist.

Diese Analyse ist Teil einer Serie namens "Durch die relationale Linse", die KI-Forschung durch Betreuungsarbeit und relationale Theorie-Perspektiven untersucht, wobei dies der dritte Teil der Serie ist.