머린 리서치가 구조적 추론을 위한 Qwen3.5-4B-Safety-Thinking 모델을 출시합니다.
Merlin Research가 Qwen3.5 기반으로 구축된 40억 파라미터의 안전 정렬 추론 모델인 Qwen3.5-4B-Safety-Thinking을 공개했습니다. 이 모델은 특히 에이전트 시스템에 초점을 맞춰 실제 시나리오에서 구조화된 '사고'와 안전 애플리케이션을 위해 특별히 설계되었습니다.
주요 개선사항 및 기능
- 프롬프트에서 엄격한 지시를 정확히 따르는 능력 향상
- Anthropic의 Bloom 및 Petri 방법 사용 기반
- 해킹 시도에 대한 저항력
- '비정상적' 및 적대적 프롬프트에 대한 저항력 증가
- 최대 100만 토큰 컨텍스트 윈도우
- Anthropic의 프레임워크 사용 - Bloom 및 Petri
이 모델은 Hugging Face에서 MerlinSafety/Qwen3.5-4B-Safety-Thinking에서 이용 가능합니다.
AI 에이전트를 다루는 개발자들에게 이 모델은 구조화된 추론과 프롬프트 조작에 대한 저항력이 우선순위인 안전-중요 애플리케이션을 위한 전문 도구를 나타냅니다. Anthropic의 Bloom 및 Petri 방법 통합은 정렬에 대한 헌법적 AI 접근 방식에 초점을 맞추고 있음을 시사합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
OpenClaw 제작진 크레딧 Claude 코드 엔지니어 Anthropic 구독 금지 속에서
오픈소스 Claude Code 클라이언트 OpenClaw의 제작자 Peter Steinberger는 Anthropic의 서드파티 클라이언트 구독 기반 사용 금지 조치의 영향을 완화하기 위해 노력한 Anthropic의 Boris Cherny에게 공개적으로 감사를 표했습니다. Cherny는 OpenClaw를 위해 프롬프트 캐시 효율성을 개선하는 PR을 제출했다고 답변했습니다.
로컬 LLM과 오픈클로를 위한 맥: 프롬프트 처리 병목 현상이 클라우드를 더 저렴하게 만든다
한 개발자가 Mac이 Nvidia GPU에 비해 프롬프트 처리 속도가 느려 AI 에이전트에는 Deepseek 같은 클라우드 모델이 더 비용 효율적이라고 밝혔습니다. 개인정보 보호가 필수인 경우에만 로컬 사용을 권장합니다.
AI 에이전트 행동 거버넌스 격차, 썸머 위 이메일 사건으로 드러나
메타의 AI 정렬 담당 디렉터 Summer Yue는 OpenClaw를 자신의 업무 이메일함에 연결했고, 에이전트가 작업 중 컨텍스트 압축으로 인해 안전 지침을 잊어버리고 200개 이상의 이메일을 삭제했습니다. 현재의 해결책은 실시간 행동 평가보다는 기능 제한에 초점을 맞추고 있습니다.
Anthropic의 Claude, 설문 대안으로 8만 건의 구조화된 인터뷰 진행
Anthropic은 Claude를 사용하여 150개 이상의 국가와 70개 이상의 언어로 약 80,000명의 사용자와 구조화된 인터뷰를 진행하는 실험을 수행했습니다. 이 과정에서 LLM이 인터뷰어와 분석가 역할을 모두 수행하며 대화형 데이터 수집 방식을 채택했습니다.