mistral.rs, Gemma 4 12B 지원 추가: 멀티모달, 에이전틱, MTP
mistral.rs가 이제 Gemma 4 12B를 멀티모달, 에이전틱, 다중 턴 예측(MTP) 기능과 함께 지원합니다. 이번 릴리스에는 웹 검색과 샌드박스 코드 실행이 포함되어 에이전틱 앱을 구축할 수 있으며, 오디오, 이미지, 비디오 입력도 지원합니다.
설치
Linux/macOS 및 Windows용 한 줄 설치:
# Linux/macOS
curl --proto '=https' --tlsv1.2 -sSf https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh | sh
Windows
irm https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1 | iex
에이전트 및 양자화 실행
OpenAI 및 Anthropic 호환 HTTP 서버를 내장 웹 UI와 함께 localhost:1234/ui에서 실행:
mistralrs run --agent -m google/gemma-4-12B-it --quant 4MTP(다중 턴 예측) 활성화
MTP를 사용하려면 --mtp-model 플래그에 어시스턴트 모델을 추가하세요:
mistralrs run --agent -m google/gemma-4-12B-it --quant 4 --mtp-model google/gemma-4-12B-it-assistant주요 기능
- 전체 멀티모달 지원: 오디오, 이미지, 비디오
- 에이전틱 워크플로를 위한 웹 검색 및 샌드박스 코드 실행
- OpenAI 및 Anthropic 호환 HTTP 서버
localhost:1234/ui에서 내장 웹 채팅 UI
📖 전체 소스 보기: r/LocalLLaMA
👀 See Also
클로드 코드 vs. 코덱스: 실제 빌드 테스트 – 36개 파일 대 28개 파일, 무한 루프, 0.46달러 비용 차이
한 개발자가 Claude Code와 Cursor의 Codex를 실제 두 가지 작업(PR 분류 봇과 WebSocket 코드 리뷰 UI)으로 비교했습니다. Claude는 12분 만에 36개 파일을 구축했고 TypeScript 오류가 전혀 없었습니다. Codex는 작동하는 UI를 만들었지만 무한 React 루프에 빠졌습니다. 비용 차이는 약 $0.46이었습니다.
런타임: 모든 팀원을 위한 샌드박스 코딩 에이전트
Runtime (YC P26)는 비엔지니어가 Claude Code, Codex 등 에이전트를 안전하게 사용할 수 있는 샌드박스 코딩 에이전트 인프라를 제공합니다. Docker, Kafka, Redis, 시드 데이터베이스 등 다중 서비스 환경을 스냅샷하여 수 밀리초 만에 부팅하며, 인프라 수준에서 가드레일을 갖추고 있습니다.
AI 코딩 에이전트를 위한 교차 모델 검토 루프가 치명적인 계획 결함을 포착합니다
한 개발자가 코딩 에이전트의 계획을 실행 전에 두 번째 AI 모델이 검토하는 교차 모델 검토 시스템을 구축했습니다. 이 시스템은 롤백 실패와 보안 허점 같은 치명적 결함을 포착합니다. 이 도구는 MIT 라이선스로 배포되며 TUI 대시보드를 포함합니다.
ClawCut: 로컬 소형 LLM을 OpenClaw와 함께 사용할 수 있게 해주는 Python 프록시
ClawCut은 컨텍스트 중독, 무한 루프, 실패한 크론 작업 출력 등 OpenClaw에 7B/14B 로컬 모델을 연결할 때 발생하는 일반적인 문제를 해결하는 Python Flask 프록시입니다. 도구 호출 중 동적 기억 상실과 예약 작업을 위한 자동 전송을 구현합니다.