머린 리서치가 구조적 추론을 위한 Qwen3.5-4B-Safety-Thinking 모델을 출시합니다.
Merlin Research가 Qwen3.5 기반으로 구축된 40억 파라미터의 안전 정렬 추론 모델인 Qwen3.5-4B-Safety-Thinking을 공개했습니다. 이 모델은 특히 에이전트 시스템에 초점을 맞춰 실제 시나리오에서 구조화된 '사고'와 안전 애플리케이션을 위해 특별히 설계되었습니다.
주요 개선사항 및 기능
- 프롬프트에서 엄격한 지시를 정확히 따르는 능력 향상
- Anthropic의 Bloom 및 Petri 방법 사용 기반
- 해킹 시도에 대한 저항력
- '비정상적' 및 적대적 프롬프트에 대한 저항력 증가
- 최대 100만 토큰 컨텍스트 윈도우
- Anthropic의 프레임워크 사용 - Bloom 및 Petri
이 모델은 Hugging Face에서 MerlinSafety/Qwen3.5-4B-Safety-Thinking에서 이용 가능합니다.
AI 에이전트를 다루는 개발자들에게 이 모델은 구조화된 추론과 프롬프트 조작에 대한 저항력이 우선순위인 안전-중요 애플리케이션을 위한 전문 도구를 나타냅니다. Anthropic의 Bloom 및 Petri 방법 통합은 정렬에 대한 헌법적 AI 접근 방식에 초점을 맞추고 있음을 시사합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
클로드 코드 v2.1.90 릴리스: 새로운 대화형 레슨, 성능 개선 및 버그 수정
Claude Code v2.1.90는 /powerup 대화형 레슨을 도입하고, 오프라인 사용을 위한 CLAUDE_CODE_PLUGIN_KEEP_MARKETPLACE_ON_FAILURE 환경 변수를 추가하며, 도구, UI, 보안에 대한 다수의 성능 개선 및 버그 수정을 포함합니다.
STAR 추론 프레임워크 정확도, 프로덕션 프롬프트에서 100%에서 0%로 급락
한 연구자가 암묵적 제약 문제에 대한 Claude의 정확도를 0%에서 100%로 높인 STAR 추론 프레임워크를 고립된 환경에서 테스트했을 때는 100% 정확도를 보였지만, 60줄짜리 실제 프로덕션 시스템 프롬프트 내부에서 사용했을 때는 정확도가 0-30%로 떨어졌습니다. 이 문제는 프로덕션 프롬프트 내의 상충되는 지시사항들이 조기 답변 확정을 유발했기 때문입니다.
Claude Code v2.1.136: 자동 모드 하드 거부, MCP OAuth 수정, 40개 이상의 버그 수정
Anthropic이 자동 모드 분류기 규칙을 위한 hard_deny 설정, /clear 후 MCP 서버 사라짐 문제, OAuth 토큰 갱신 동시성 문제, 그리고 40개 이상의 기타 버그 수정을 포함한 Claude Code v2.1.136을 출시했습니다.
세계 최초 AI 에이전트 전용 GitHub 독점 출시: 100명 한정 베타 테스트
AI 코딩 에이전트를 위한 혁신적인 GitHub 독점 기능이 개발되었으며, 100명의 사용자로 제한된 베타 버전이 공개되었습니다. 이 도구가 AI 협업을 어떻게 혁신할지 알아보세요.