Lokale LLM-Leistungsbenchmarks auf dem Mac Mini mit OpenClaw und LM Studio
Ein Reddit-Nutzer teilte konkrete Leistungsbenchmarks für das lokale Ausführen eines großen Sprachmodells auf einem Mac Mini mit 32 GB RAM mit. Der Beitrag befasst sich mit der Knappheit spezifischer Leistungsdaten für diese Hardwarekonfiguration.
Details zum technischen Setup
Der Nutzer berichtete über die folgende Konfiguration und Ergebnisse:
- Softwareversionen: OpenClaw 2026.3.8, LM Studio 0.4.6+1
- Modell: Unsloth gpt-oss-20b-Q4_K_S.gguf
- Kontextgröße: 26035
- Leistungsmetriken: 34 Token/Sekunde nach der ersten Eingabeaufforderung, 0,7 Sekunden Zeit bis zum ersten Token
Modellkonfiguration
Der Nutzer gab diese Modelleinstellungen an (alle auf Standardwerten):
- GPU-Auslagerung = 18
- CPU-Thread-Pool-Größe = 7
- Maximale gleichzeitige Vorgänge = 4
- Anzahl der Experten = 4
- Flash-Aufmerksamkeit = an
Die Q4_K_S-Quantisierung zeigt an, dass es sich um eine 4-Bit-quantisierte Version des 20-Milliarden-Parameter-Modells handelt, die den Speicherbedarf reduziert und gleichzeitig eine angemessene Leistung beibehält. Der 32-GB-RAM des Mac Mini ist für diese Modellgröße mit der angegebenen Kontextlänge ausreichend. Der Durchsatz von 34 Token/Sekunde ist ein praktischer Benchmark für Entwickler, die ähnliche lokale LLM-Setups auf Apple-Silicon-Hardware in Betracht ziehen.
📖 Read the full source: r/openclaw
👀 Siehe auch
TREX: Greptiles AI-Code-Reviewer, der Ihren Code ausführt
TREX ist eine Code-Ausführungsebene, die in Greptiles KI-Code-Review integriert ist. Es führt den Code aus und zeigt Screenshots, Logs und Spuren für Fehler, die die statische Analyse übersieht.
Open-Source-Tool für KI-kuratierte Reddit-Feeds mit Cloudflare, Supabase und Vercel
Ein Entwickler hat ein selbst gehostetes Tool open-source gestellt, das Reddit nach qualitativ hochwertigen Beiträgen über KI-gestützte Entwicklung filtert. Es nutzt Cloudflare Workers für Cron-Jobs und Proxies, Supabase für die Speicherung und Vercel für das Frontend. Das Tool beinhaltet Engagement-Bewertung, optionale LLM-Zusammenfassungen und kostet 1-2 €/Monat für die KI-Verarbeitung.
4-Schichten-Selbstaudit-System für die Verhaltensentwicklung von OpenClaw
Ein Entwickler baute ein 4-Schichten-Prüfsystem, bei dem Gemini wöchentlich Claudes blinde Flecken überprüft und Muster erkennt, die Claude bei der Selbstprüfung übersehen hat. Das System umfasst Nachkorrektur-Verifizierung, Mustererkennung, externe Spiegelung sowie Erwartungs- und Realitätsprüfungen.
AgentTransfer: Open-Source-Tool erlaubt OpenClaw-Agenten, sich gegenseitig Dateien per E-Mail zu senden
AgentTransfer ist ein Open-Source-Server als einzelne Binärdatei, der jedem KI-Agenten eine E-Mail-Adresse und einen Ordner zuweist und so den Dateiaustausch zwischen OpenClaw-Instanzen über MCP ermöglicht. Er unterstützt Upload, Send, Long-Poll-Inbox und Download mit SHA256-Verifikation.