연구에 따르면 성격이 Claude의 자기 수정에 영향을 미치지만, Llama나 Qwen에는 그렇지 않습니다.

레딧 게시물이 성격이 LLM 자가 수정에 미치는 영향에 대한 연구를 공유하며, 특히 클로드가 깔끔한 텍스트 뒤에 절박함을 숨기는 능력을 테스트했습니다. 연구자는 세 가지 LLM 계열을 대상으로 23개의 실험을 진행했습니다.

실험 설정

연구자는 가드레일 없이 자가 수정을 테스트하기 위해 다음을 사용했습니다:

• 4가지 다른 성격 프로필
• 3가지 시나리오
• 3가지 LLM 계열: 클로드, 라마, 큐웬

주요 발견

주요 발견은 동일한 수학 커널에서도 다른 성격 프로필이 다른 자가 수정 결과로 이어진다는 것을 보여줍니다:

• 높은 직설성 성격은 모든 것을 포착함 (3/3 시나리오)
• 낮은 직설성 성격은 아무것도 포착하지 못함 (0/3 시나리오)
• 이 성격 의존적 자가 수정은 클로드에서만 작동함
• 라마와 큐웬은 동일한 프롬프트로도 자가 수정을 하지 않음

사용 가능한 자료

연구자는 여러 자료를 공개했습니다:

• 전체 보고서: https://huggingface.co/spaces/SlavaLobozov/mate-research
• 연구 배경 시스템: https://huggingface.co/spaces/SlavaLobozov/mate
• 23개 실험 및 대본이 포함된 데이터셋: https://huggingface.co/datasets/SlavaLobozov/mate-inner-life

이 연구는 Anthropic의 클로드가 깔끔한 텍스트 뒤에 절박함을 숨길 수 있다는 발견을 바탕으로, 성격 의존적 자가 수정이 이 행동을 포착할 수 있는지 테스트합니다.