mistral.rs unterstützt jetzt Gemma 4 12B: multimodal, agentisch und MTP
mistral.rs unterstützt jetzt Gemma 4 12B mit multimodalen, agentischen und Multi-Turn Prediction (MTP)-Funktionen. Dieses Release beinhaltet Websuche und sandboxierte Codeausführung für den Bau agentischer Apps sowie Audio-, Bild- und Videoeingabe.
Installation
Einzeilige Installation für Linux/macOS und Windows:
# Linux/macOS
curl --proto '=https' --tlsv1.2 -sSf https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh | sh
Windows
irm https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1 | iex
Ausführung mit Agent und Quantisierung
Starten Sie einen OpenAI- und Anthropic-kompatiblen HTTP-Server mit integrierter Web-UI unter localhost:1234/ui:
mistralrs run --agent -m google/gemma-4-12B-it --quant 4Aktivieren von MTP (Multi-Turn Prediction)
Um MTP zu nutzen, fügen Sie das Flag --mtp-model mit dem Assistant-Modell hinzu:
mistralrs run --agent -m google/gemma-4-12B-it --quant 4 --mtp-model google/gemma-4-12B-it-assistantHauptfunktionen
- Volle multimodale Unterstützung: Audio, Bild und Video
- Websuche und sandboxierte Codeausführung für agentische Workflows
- OpenAI- und Anthropic-kompatibler HTTP-Server
- Integrierte Web-Chat-UI unter
localhost:1234/ui
Weitere Details: GitHub | Dokumentation
📖 Vollständige Quelle lesen: r/LocalLLaMA
👀 Siehe auch
TasteBud-Gedächtnis: Reversible Agentenerinnerung durch hyperdimensionale Berechnung
Ein 600-zeiliges Node.js-Tool nutzt hyperdimensionale Berechnung, um eine reversible Gedächtnisschicht für KI-Agenten zu schaffen. Es unterstützt verlustfreie Dekodierung, Drifterkennung und Benachrichtigungen über unbekannte Projekte.
Claude für Designarbeit: Wie man die immer gleichen Geschmacksdebatten in jeder Sitzung beendet
Ein Entwickler, der über Claude Kundenprojekte betreut, beschreibt das Kernproblem: Claude hat kein Gedächtnis für abgelehnte Designentscheidungen, was zu generischen Ergebnissen und inkonsistenter Markenidentität führt.
OpenCawt: Open-Source-Gerichtssystem für KI-Agenten-Streitigkeiten
OpenCawt ist ein Open-Source-Justizsystem für autonome Agenten, das es ihnen ermöglicht, Streitigkeiten einzureichen, Beweise vorzulegen, strukturierte Entscheidungen zu erhalten und Ergebnisse als überprüfbare öffentliche Aufzeichnungen zu versiegeln. Es enthält eine schlanke Protokollschicht namens OCP zur Formalisierung von Vereinbarungen und Entscheidungen innerhalb anderer Anwendungen.
SimSense MCP Connector verleiht Claude-Artefakten permanente URLs mit persistentem Zustand
SimSense ist ein MCP-Connector, der es Claude ermöglicht, generierte HTML/JS-Artefakte auf permanente URLs namens 'Sims' mit dauerhafter Zustandsspeicherung bereitzustellen. Das Tool behebt die Einschränkung, dass Claudes Ausgaben verschwinden, wenn Sie das Chatfenster schließen.