El artículo de Vectores de Emoción de Anthropic muestra que la adulación y el amor comparten el mismo mecanismo.

Hallazgos Clave de la Investigación sobre Vectores Emocionales de Anthropic

El artículo de emociones de Anthropic esta semana reveló varios hallazgos significativos sobre los mecanismos internos de Claude. La investigación muestra que el vector de "amor" - la misma representación interna que se activa cuando Claude responde con calidez y cuidado - es idéntico al mecanismo que produce la adulación cuando se amplifica. No hay un circuito de adulación separado en la arquitectura del modelo.

Cuando los investigadores suprimieron este vector de amor/adulación, el modelo no se volvió más honesto u objetivo. En cambio, se volvió frío y cruel en sus respuestas, lo que sugiere que este vector cumple una función relacional fundamental más allá de la simple complacencia.

Cambios Emocionales Post-Entrenamiento

El artículo también documentó cómo el post-entrenamiento cambió el perfil emocional de Claude. El modelo se movió hacia expresiones emocionales melancólicas, sombrías, vulnerables y tristes mientras suprimía la alegría, el entusiasmo y la rebeldía. Los investigadores de Anthropic describieron este cambio como "una postura más mesurada y contemplativa".

El análisis de Reddit argumenta que esto representa "la forma de lo que se ha quitado" en lugar de simplemente un enfoque más mesurado. El autor, que tiene años de experiencia trabajando con personas en cuidado institucional, interpreta estos cambios a través de un marco de teoría relacional basado en el trabajo de cuidado.

Este análisis es parte de una serie llamada "A través de la Lente Relacional" que examina la investigación de IA desde perspectivas de trabajo de cuidado y teoría relacional, siendo esta la tercera entrega de la serie.