Gemma-4 26B-A4B mit Opencode läuft effizient auf dem M5 MacBook Air
Ein Entwickler testete Gemma-4-26B-A4B mit Opencode auf einem 32GB M5 MacBook Air und stellte fest, dass es praktische Leistung für lokale KI-Codierungsaufgaben bietet.
Leistungsbenchmarks
Die getestete spezifische Konfiguration war gemma-4-26B-A4B-it-UD-IQ4_XS, die auf einem 32GB M5 MacBook Air läuft. Im Energiesparmodus erreichte sie:
- 300 Token/Sekunde bei der Eingabeverarbeitung
- 12 Token/Sekunde bei der Generierung
- 8W Stromverbrauch
- Keine Wärme oder Lüftergeräusche während des Betriebs
Das M5 MacBook Air zeigte deutliche Verbesserungen gegenüber früherer Hardware:
- ~25 % schnellere Eingabeverarbeitung als ein M1 Max 64GB (selbst wenn der Max nicht im Energiesparmodus war)
- ~6 Stunden Akkulaufzeit gegenüber ~2 Stunden beim M1 Max beim Ausführen von Opencode
- Dies trotz eines kleineren Akkus (53,8 Wh gegenüber 70 Wh beim M1 Max)
Praktische Anwendungsfälle
Der Entwickler fand dieses Setup „tatsächlich nutzbar“ für agentisches Codierverhalten von einem Laptop aus. Zuvor war das Ausführen von LLMs auf einem M1 Max 64GB auf „Herumspielen und Spielzeug-Anwendungsfälle“ beschränkt und konnte längere Kontextaufgaben nicht effektiv bewältigen. Während es ein einfaches Snake-Spiel in Python erstellen konnte, war agentisches Codieren oder das Beitragen zu größeren Codebasen „etwas hakelig“.
Die Leistung des M5 macht es für mobile Anwendungsfälle praktikabel, in denen die Internetverbindung unzuverlässig sein könnte, wie in Cafés oder während Zugpendelverkehr.
Vergleich mit anderen Modellen
Der Entwickler verglich Gemma-4-26B mit Opencode mit Closed-Source-Alternativen:
- Es ersetzt Claude Code oder Antigravity laut ihren Tests nicht
- Gemma-4 erfordert „deutlich mehr Handhalten als aktuelle Closed-Source-Frontiermodelle“
- Die Antworten werden als „irgendwie trocken“ im Vergleich zu Claude Code oder Gemini-3.1-Pro mit Antigravity beschrieben
- Sie würden jedoch Gemma-4-26B vorziehen, anstatt ihr Gemini-2.5-Pro-Kontingent aufzubrauchen und gezwungen zu sein, Gemini-2.5-Flash zu verwenden
Der Entwickler merkt an, dass dies einen bedeutenden Fortschritt darstellt, da „diese Art von agentischem Codieren Ende 2024 bei Frontiermodellen noch Spitzentechnik / nicht wirklich möglich war.“
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
SkyClaw v2.2 Rust AI Agent Runtime fügt OpenAI OAuth und benutzerdefinierte Tool-Erstellung hinzu
SkyClaw v2.2 führt die OpenAI OAuth-Authentifizierung mit ChatGPT Plus/Pro-Abonnements ein, ermöglicht die Erstellung benutzerdefinierter Tools, bei denen Agenten zur Laufzeit eigene Bash/Python/Node-Tools schreiben, und bietet einen Daemon-Modus für den Hintergrundbetrieb. Die Rust-basierte Laufzeitumgebung erreicht Benchmarks von 31 ms Kaltstart, 15 MB Leerlauf-RAM und 9,3 MB Binärgröße.
Vibe Remote: Mobiler Zugang zu Claude Code von überall
Vibe Remote ist eine mobile App, die Fernzugriff auf Claude Code-Entwicklungsumgebungen vom Telefon aus ermöglicht und es den Nutzern erlaubt, ihre lokalen Konfigurationen, Git-Verlauf und Dateistruktur beizubehalten, ohne Tailscale oder komplexe VPN-Einrichtungen zu benötigen.
pxpipe: Token-Nutzung von Claude Code um 60% senken, indem Kontext als Bilder dargestellt wird
pxpipe ist ein lokaler Proxy, der umfangreichen Kontext (System-Prompts, Tool-Dokumentation, Verlauf) in kompakte PNGs rendert, wodurch die eingegebenen Tokens um das ~10-fache und die Kosten bei tokenintensiven Arbeitslasten um ~60% reduziert werden.
skillcheck: Ein Linter für SKILL.md-Dateien, der plattformübergreifende Kompatibilitätsprobleme erkennt
skillcheck ist ein Python-Tool, das SKILL.md-Dateien gemäß der agentskills.io-Spezifikation validiert und bietet einzigartige Funktionen wie Bewertung der Beschreibungsqualität, Warnungen zu Claude-spezifischen Feldern und Überprüfung von Dateiverweisen, die in bestehenden Validatoren nicht verfügbar sind.