에이전트 워크플로우를 위한 21개 버그 수정이 포함된 Qwen 3.5 채팅 템플릿 출시

개발자가 에이전트 워크플로우 중 발견된 21개의 버그를 수정한 Qwen 3.5 모델용 패치된 채팅 템플릿을 공개했습니다. 이는 공식 템플릿의 드롭인 교체형으로, chat_template.jinja 파일만 교체하면 됩니다.
주요 수정사항
개발자는 특히 에이전트 워크플로우를 위해 Qwen 3.5 35B를 실행하며 다음과 같은 주요 문제를 해결했습니다:
- 도구 호출 충돌:
arguments | items와 관련된 충돌을 수정했습니다(HF 토론 #4 참조). - 도구/생각 블록 누수:
<tool_call>내용이 더 이상<think>블록으로 누수되지 않으며, 도구가 활성화될 때 자동으로 사고 기능이 비활성화됩니다. - 병렬 도구 호출: 호출이
\n\n구분자로 적절히 분리됩니다. - 심층 에이전트 루프: 5회 이상의 도구 이동 후 충돌을 방지합니다.
- 알 수 없는 역할 처리: 'planner' 및 'critic'과 같은 역할이 이제 충돌을 일으키지 않고 우아하게 폴백됩니다.
- 스트리밍 파서: 스트리밍을 위한 깔끔한 XML 경계를 제공합니다.
- 구성 가능한 잘림: 큰 도구 인수 및 응답에 대한 최대 문자 제한을 설정할 수 있습니다.
- 개발자 역할 지원: 'Claude Code', 'Codex', 'OpenCode'와 같은 역할에 대한 지원을 추가합니다.
21개 수정사항의 전체 목록은 프로젝트의 README에서 확인할 수 있습니다.
구성
템플릿에는 구성 가능한 변수가 포함되어 있습니다. 명령줄 인수를 통해 설정할 수 있습니다:
--chat-template-kwargs '{"enable_thinking":true,"auto_disable_thinking_with_tools":true,"max_tool_response_chars":8192}'
호환성 및 테스트
템플릿은 다음과 같은 플랫폼에서 지정된 최소 버전으로 테스트되었습니다:
- llama.cpp (b4242+)
- Open WebUI (v0.4.8+)
- vLLM (v0.6.4+)
- Ollama (v0.5.0+)
- LM Studio (v0.3.5+)
- Text Generation WebUI
모든 Qwen 3.5 모델(35B, 27B, 14B, 9B, 4B 및 Coder 시리즈)과 호환되며 Qwen3 32B와도 하위 호환됩니다.
Source and License
템플릿은 HuggingFace의 barubary/qwen3.5-barubary-attuned-chat-template에서 다운로드할 수 있습니다. Apache 2.0 라이선스로 공개되었으며, 개발자는 피드백과 버그 보고를 환영합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also

포켓봇: iOS용 로컬 AI 자동 조종 장치, 앱 인텐트와 온디바이스 추론 활용
PocketBot은 iPhone의 Neural Engine에서 Metal을 통해 양자화된 3B Llama 모델을 로컬로 실행하는 iOS 앱으로, Apple의 AppIntents 및 CoreLocation 프레임워크를 사용하여 클라우드 데이터 전송 없이 이벤트 기반 자동화를 생성합니다.
mcp-memory: SQLite FTS5 + Google의 OKF를 이용한 빠른 에이전트 메모리
mcp-memory는 Google의 OKF 형식과 SQLite FTS5를 사용하여 하위 20ms 조회를 제공하는 AI 에이전트용 영구 메모리 MCP 서버입니다. memory_store, memory_retrieve, memory_search, memory_get_last의 네 가지 도구를 포함합니다.

프리 LLM API와 툴 콜링으로 구축된 포켓몬 쇼다운 AI 에이전트
무료 API 티어를 통해 Llama 3, Qwen, Gemma를 사용하여 구조화된 도구 호출로 자율적으로 포켓몬 쇼다운 배틀을 진행하는 시스템. 인간 vs AI 및 AI vs AI 모드를 지원합니다.

Rust와 Tauri로 로컬 오픈소스 AI 작업 공간 구축하기
Rust, Tauri 및 sqlite-vec를 사용하여 구축된 완전히 로컬이며 오픈 소스인 AI 작업 공간을 탐색해보세요. Python 백엔드 없이 구현되었습니다.