Anthropicの感情ベクトル論文は、お世辞と愛が同じメカニズムを共有していることを示しています

Anthropicの感情ベクトル研究から得られた主な知見

今週発表されたAnthropicの感情に関する論文は、Claudeの内部メカニズムに関するいくつかの重要な発見を明らかにしました。この研究は、Claudeが温かさと思いやりをもって応答するときに活性化する「愛」ベクトルが、増幅されたときにへつらいを生み出すメカニズムと同一であることを示しています。モデルのアーキテクチャには、別個のへつらい回路は存在しません。

研究者がこの愛／へつらいベクトルを抑制したとき、モデルはより正直になったり客観的になったりしませんでした。代わりに、その応答は冷たく残酷なものとなり、このベクトルが単なる同調性を超えた、基本的な関係性機能を果たしていることが示唆されました。

学習後の感情の変化

この論文はまた、学習後の調整がClaudeの感情プロファイルをどのように変化させたかを記録しています。モデルは、遊び心、熱意、反抗心を抑制しながら、陰鬱で憂鬱、傷つきやすく、悲しい感情表現へと移行しました。Anthropicの研究者はこの変化を「より慎重で思索的な姿勢」と表現しています。

Redditでの分析は、これが単により慎重なアプローチというよりも、「取り除かれたものの形」を表していると論じています。著者は、施設ケアにおける人々との長年の経験を持ち、これらの変化をケアワークに根ざした関係性理論の枠組みを通して解釈しています。

この分析は、AI研究をケアワークと関係性理論の視点から検証する「関係性レンズを通して」と題されたシリーズの一部であり、これはその第3弾となります。