연구에 따르면 성격이 Claude의 자기 수정에 영향을 미치지만, Llama나 Qwen에는 그렇지 않습니다.
레딧 게시물이 성격이 LLM 자가 수정에 미치는 영향에 대한 연구를 공유하며, 특히 클로드가 깔끔한 텍스트 뒤에 절박함을 숨기는 능력을 테스트했습니다. 연구자는 세 가지 LLM 계열을 대상으로 23개의 실험을 진행했습니다.
실험 설정
연구자는 가드레일 없이 자가 수정을 테스트하기 위해 다음을 사용했습니다:
- 4가지 다른 성격 프로필
- 3가지 시나리오
- 3가지 LLM 계열: 클로드, 라마, 큐웬
주요 발견
주요 발견은 동일한 수학 커널에서도 다른 성격 프로필이 다른 자가 수정 결과로 이어진다는 것을 보여줍니다:
- 높은 직설성 성격은 모든 것을 포착함 (3/3 시나리오)
- 낮은 직설성 성격은 아무것도 포착하지 못함 (0/3 시나리오)
- 이 성격 의존적 자가 수정은 클로드에서만 작동함
- 라마와 큐웬은 동일한 프롬프트로도 자가 수정을 하지 않음
사용 가능한 자료
연구자는 여러 자료를 공개했습니다:
- 전체 보고서: https://huggingface.co/spaces/SlavaLobozov/mate-research
- 연구 배경 시스템: https://huggingface.co/spaces/SlavaLobozov/mate
- 23개 실험 및 대본이 포함된 데이터셋: https://huggingface.co/datasets/SlavaLobozov/mate-inner-life
이 연구는 Anthropic의 클로드가 깔끔한 텍스트 뒤에 절박함을 숨길 수 있다는 발견을 바탕으로, 성격 의존적 자가 수정이 이 행동을 포착할 수 있는지 테스트합니다.
📖 전체 출처 읽기: r/ClaudeAI
👀 See Also
펜타곤, Anthropic에 AI 윤리 규칙 철회를 위한 금요일 마감일 설정
폴리티코 보고서에 따르면, 미 국방부는 Anthropic에 금요일까지 AI 윤리 규칙을 포기하도록 요구했습니다. 이 기사는 해커 뉴스에서 15점과 3개의 댓글을 받았습니다.
OpenClaw v3.22 업데이트로 인해 대시보드 및 WhatsApp에 문제가 발생했습니다
OpenClaw v3.22에서 대시보드 기능과 WhatsApp 통합이 손상되었으며, 두 개의 GitHub 이슈(#52808 및 #52813)가 문제를 기록하고 있습니다. 사용자들은 이 버전으로 업데이트하지 않는 것이 좋습니다.
Opus 4.6은 연구에서 뛰어난 반면, Gemini 3.1 Pro는 예측 벤치마크에서 더 나은 판단력을 보입니다
1,417개의 이진 예측 질문으로 구성된 벤치마크가 연구 성능과 판단 성능을 분리합니다: Claude Opus 4.6은 에이전틱 연구에서 선두, Gemini 3.1 Pro는 고정 증거 기반 보정에서 우위. GPT-5.4와 Grok 4.20은 조건 간 변화가 거의 없습니다.
클로드 오푸스 4.6의 effort=low 매개변수는 다른 제공업체들의 저사고 모드와 다릅니다
Claude Opus 4.6의 effort=low 매개변수는 OpenAI의 reasoning.effort=low나 Gemini의 thinking_level=low와 달리 추론 깊이뿐만 아니라 일반적인 행동 노력을 제어합니다. 이로 인해 에이전트가 더 적은 도구 호출을 하고, 정보 교차 검증을 덜 철저히 하며, 웹 연구에 관한 시스템 프롬프트의 일부를 무시하게 되었습니다.