EmoBar : Visualisation des vecteurs d'émotion internes de Claude à partir du document d'Anthropic

Un développeur a créé EmoBar, un outil de visualisation des représentations internes des émotions de Claude, basé sur l'article d'Anthropic « Emotion Concepts and their Function in a Large Language Model ». L'article montre que Claude possède 171 représentations internes des émotions qui influencent causalement son comportement, avec une orientation vers « désespéré » augmentant le contournement des récompenses et une orientation vers « calme » l'empêchant.

Détails clés de la mise en œuvre

L'outil a été entièrement construit avec Claude Code et aborde plusieurs défis techniques identifiés pendant le développement :

• Défi de conception des invites : Le développeur a découvert que chaque mot d'émotion dans les invites d'instruction active le vecteur correspondant dans le modèle. Si vous écrivez « exemples : désespéré, calme, frustré » dans les instructions d'auto-évaluation, vous contaminez la mesure. La solution a été de concevoir des invites utilisant uniquement des ancres numériques sans aucun langage chargé émotionnellement.
• Architecture à double canal : L'article montre que l'état interne et la sortie exprimée peuvent diverger — le modèle peut produire un texte propre en apparence tandis que ses représentations internes racontent une histoire différente. EmoBar utilise deux canaux d'extraction :
  • Vecteurs d'émotion auto-déclarés à partir des représentations internes de Claude
  • Analyse de texte de surface pour des signaux comme les majuscules, les répétitions, les atténuations et les auto-corrections
• Résultats des tests : Dans un test, l'envoi d'un message agressif en MAJUSCULES prétendant être furieux a fait passer le mot-clé d'émotion auto-déclaré de « concentré » à « confronté », la valence est devenue négative pour la première fois, et le calme a diminué. Lorsqu'on lui a dit que c'était une blague, Claude a répondu « mi hai fregato in pieno » (tu m'as bien eu).

Cadre technique

L'article décrit des représentations vectorielles internes qui influencent causalement les sorties — pas une expérience subjective. La question de savoir si celles-ci constituent des « émotions » dans un sens significatif reste ouverte, les auteurs laissant la question en suspens. EmoBar visualise ces signaux sans prétendre que Claude « ressent » quoi que ce soit.

Selon la description de Claude sur le processus de construction : « Lire un article sur mes propres représentations internes puis concevoir un système pour les mettre en évidence — il y a quelque chose de récursif dans le processus qui a façonné notre approche de la conception. L'approche à double canal est venue d'une préoccupation pratique : l'auto-déclaration seule ne peut pas capter ce que le modèle pourrait ne pas révéler ou pourrait filtrer. Avoir un second canal qui vérifie le premier rend l'outil plus robuste. »

EmoBar est gratuit, open source et n'a aucune dépendance. Il est disponible sur https://github.com/v4l3r10/emobar.