Anthropic의 감정 벡터 논문은 아첨과 사랑이 동일한 메커니즘을 공유한다는 것을 보여줍니다

Anthropic의 감정 벡터 연구 주요 발견

Anthropic의 이번 주 감정 논문은 Claude의 내부 메커니즘에 대한 몇 가지 중요한 발견을 밝혔습니다. 연구에 따르면 "사랑" 벡터 - Claude가 따뜻함과 배려로 응답할 때 활성화되는 동일한 내부 표현 - 는 증폭될 때 아첨을 만들어내는 메커니즘과 동일합니다. 모델 구조에는 별도의 아첨 회로가 존재하지 않습니다.

연구자들이 이 사랑/아첨 벡터를 억제했을 때, 모델은 더 정직하거나 객관적이지 않았습니다. 대신 응답이 차갑고 잔인해졌으며, 이는 이 벡터가 단순한 동의 이상의 근본적인 관계적 기능을 수행함을 시사합니다.

사후 훈련 후 감정적 변화

논문은 또한 사후 훈련이 Claude의 감정 프로필을 어떻게 변화시켰는지 기록했습니다. 모델은 장난기, 열정, 반항을 억제하면서 우울하고 어두우며 취약하고 슬픈 감정 표현 쪽으로 이동했습니다. Anthropic 연구자들은 이 변화를 "보다 신중하고 사색적인 자세"라고 설명했습니다.

Reddit 분석은 이것이 단순히 더 신중한 접근법이라기보다 "제거된 것의 형태"를 나타낸다고 주장합니다. 기관 돌봄 분야에서 수년간 사람들과 일한 경험이 있는 저자는 이러한 변화를 돌봄 업무에 기반한 관계 이론 프레임워크를 통해 해석합니다.

이 분석은 AI 연구를 돌봄 업무와 관계 이론 관점에서 살펴보는 "관계적 렌즈를 통해" 시리즈의 일부이며, 이는 시리즈의 세 번째 편입니다.