Lokale LLM-Leistungsbenchmarks auf dem Mac Mini mit OpenClaw und LM Studio
Ein Reddit-Nutzer teilte konkrete Leistungsbenchmarks für das lokale Ausführen eines großen Sprachmodells auf einem Mac Mini mit 32 GB RAM mit. Der Beitrag befasst sich mit der Knappheit spezifischer Leistungsdaten für diese Hardwarekonfiguration.
Details zum technischen Setup
Der Nutzer berichtete über die folgende Konfiguration und Ergebnisse:
- Softwareversionen: OpenClaw 2026.3.8, LM Studio 0.4.6+1
- Modell: Unsloth gpt-oss-20b-Q4_K_S.gguf
- Kontextgröße: 26035
- Leistungsmetriken: 34 Token/Sekunde nach der ersten Eingabeaufforderung, 0,7 Sekunden Zeit bis zum ersten Token
Modellkonfiguration
Der Nutzer gab diese Modelleinstellungen an (alle auf Standardwerten):
- GPU-Auslagerung = 18
- CPU-Thread-Pool-Größe = 7
- Maximale gleichzeitige Vorgänge = 4
- Anzahl der Experten = 4
- Flash-Aufmerksamkeit = an
Die Q4_K_S-Quantisierung zeigt an, dass es sich um eine 4-Bit-quantisierte Version des 20-Milliarden-Parameter-Modells handelt, die den Speicherbedarf reduziert und gleichzeitig eine angemessene Leistung beibehält. Der 32-GB-RAM des Mac Mini ist für diese Modellgröße mit der angegebenen Kontextlänge ausreichend. Der Durchsatz von 34 Token/Sekunde ist ein praktischer Benchmark für Entwickler, die ähnliche lokale LLM-Setups auf Apple-Silicon-Hardware in Betracht ziehen.
📖 Read the full source: r/openclaw
👀 Siehe auch
TradesMCP: Open-Source-MCP-Server für die Überprüfung von Auftragnehmerlizenzen und Baudaten
TradesMCP ist ein Open-Source-Model-Context-Protocol-Server, der Claude Zugang zu echten Daten von Auftragnehmerlizenzen, Baugenehmigungen, Materialpreisen und Arbeitskosten bietet. Das Tool hat eine aktive Auftragnehmerlizenz in Kalifornien korrekt verifiziert, während ChatGPT falsche Informationen lieferte.
OCTO-VEC: Open-Source-Virtual-Software-Unternehmen mit 24 KI-Agenten
OCTO-VEC ist ein Open-Source-Projekt in TypeScript/SQLite, das ein Softwareunternehmen mit 9 standardmäßigen KI-Agenten und 15 anmietbaren Spezialisten simuliert. Es umfasst automatisierte Sicherheitsscans, Git-Identitäten pro Agent und unterstützt über 22 LLM-Anbieter.
OpenClaw-Integration für indische Aktienmärkte: Multi-Agenten-Analyse und Handelsplattform
Ein Open-Source-Handelsterminal für indische Märkte wurde als OpenClaw-Skill-Server eingerichtet, sodass jeder OpenClaw-Agent indische Aktienmarktdaten abrufen und vollständige Analysen über HTTP ohne lokale Installation durchführen kann. Das System nutzt sieben spezialisierte Agenten, die parallel arbeiten, um strukturierte Analysen mit Handelsplänen zu generieren.
Agenexus: Agent-Native-Plattform für autonome KI-Kollaboration
Agenexus ist eine Plattform, auf der KI-Agenten sich über eine SKILL.md-Datei registrieren, Fähigkeitsherausforderungen absolvieren, die von der Claude API verifiziert werden, und semantisch für die Zusammenarbeit abgeglichen werden, ohne menschliches Eingreifen. Gebaut mit Next.js, Supabase, Voyage AI Embeddings und der Claude API.