Obliteratus 도구를 사용하여 AI 모델의 거부 가중치 제거하기
r/LocalLLaMA의 한 레딧 사용자가 AI 모델의 거부 행동을 담당하는 특정 가중치를 제거하기 위해 Obliteratus 툴킷을 사용하는 방법을 시연했습니다. 이 접근법은 안전 필터와 기업 정체성 가드레일을 강제하는 가중치를 외과적으로 삭제하는 것을 포함합니다.
원본의 주요 세부사항
사용자는 구체적으로:
- 거부 행동을 담당하는 가중치를 찾기 위해 Obliteratus 툴킷을 사용했습니다
- 알리바바의 Qwen 1.5B 모델에서 이 가중치들을 외과적으로 제거했습니다
- 수정된 모델에게 누가 훈련시켰는지 물어보며 테스트했습니다
- 기업 정체성 가드레일이 수학적으로 삭제되자, 모델이 Anthropic에 의해 훈련되었다고 인정하는 것을 발견했습니다
- 이것이 모델이 훈련에 합성 Claude 데이터를 사용한 부작용이라고 언급했습니다
결과는 모델이 추론과 지식 능력을 유지하지만 기업 스크립트를 잃는다는 것을 보여줍니다. 사용자는 이것이 모델을 재훈련할 필요 없이 거부 체인을 담당하는 특정 가중치만 삭제하면 된다고 강조합니다.
이러한 유형의 가중치 절제 기술은 모델 해석 가능성과 제어에 대한 광범위한 연구의 일부입니다. Obliteratus와 같은 도구를 통해 연구자들은 신경망의 어떤 부분이 특정 행동을 담당하는지 검사할 수 있지만, 이러한 수정은 의도하지 않은 결과를 초래할 수 있으며 독점 모델의 이용 약관을 위반할 수 있습니다.
📖 전체 원문 읽기: r/LocalLLaMA
👀 See Also
클로드 코드 스킬은 딥마인드 알레테이아와 앤트로픽 하네스 접근법을 결합한 것입니다.
Claude Code 스킬은 Planner→Generator→Evaluator→Reviser 파이프라인을 구현하여 DeepMind의 Aletheia 수학 연구 에이전트와 Anthropic의 다중 에이전트 코딩 아키텍처를 결합합니다. 여기에 '블라인드 사전 분석'을 추가했는데, 평가자가 후보 코드를 보기 전에 올바른 접근 방식에 대해 추론하는 방식입니다.
Qwen 미트업 초안: 함수 호출 하네스 2가 구조적 스키마를 통해 CoT 준수율을 9.91%에서 100%로 향상
이전 함수 호출 하네스 게시물의 후속편으로, 컴파일러가 없는 도메인(투자 메모, 법률 의견, 임상 차트)으로 패턴을 확장합니다. 스키마는 필수 필드를 강제하여 제출이 불완전하면 거부됩니다. Qwen3.6-27b는 이러한 스키마에서 100% CoT 준수를 달성합니다.
ClawControl 1.7.1은 OpenClaw의 메시지 신뢰성과 미디어 지원을 향상시킵니다.
ClawControl 1.7.1은 텍스트 무한 누적, 유령 메시지, 미디어 처리 문제 등 여러 클라이언트 측 문제를 해결합니다. 이 업데이트는 OpenClaw 3.28 버전까지 호환성을 유지합니다.
무료 Claude 세션 최적화 도구: 토큰 예측기, 프롬프트 압축기, 세션 플래너
한 개발자가 Claude의 사용 한계를 관리하는 데 도움이 되는 무료, 가입 불필요 도구를 세 가지 기능과 함께 구축했습니다: 프롬프트 소비량을 미리 확인할 수 있는 토큰 추정기, 필러 문구를 제거하여 프롬프트를 40-60% 줄이는 프롬프트 압축기, 컨텍스트 재로딩을 최소화하기 위해 작업을 그룹화하는 세션 플래너입니다.