Lokale KI-Entwicklung mit Qwen3.6-27B und Opencode auf einer 5090
Ein Entwickler, der lokale LLMs zuvor als 'nicht auf dem Niveau' im Vergleich zu Cloud-Angeboten wie Claude Code oder Cursor abgetan hatte, ist kürzlich auf ein vollständig lokales Setup umgestiegen. Verwendet werden Opencode + llama-server + Qwen3.6-27B in einer vernünftigen Quantisierung mit 128K Kontext, laufend auf einer einzelnen RTX 5090 in einer dedizierten Linux-Box. Das Setup wird über das Netzwerk an den Hauptentwicklungsrechner bereitgestellt.
Wichtige Details
- Werkzeuge: Opencode (Frontend) + llama-server (Backend) + Qwen3.6-27B-Modell
- Hardware: 1× RTX 5090, dedizierte Linux-Maschine
- Kontextlänge: 128K Tokens (Benutzer unsicher, ob man noch höher gehen kann, fand es aber ausreichend)
- Leistung: Nicht perfekt – gelegentliche Schleifen erfordern manuelles Eingreifen – aber insgesamt 'sehr lohnenswert'
Motivation
Der Wechsel wurde durch zunehmende Nutzungsbeschränkungen und die 'Verschlechterung' der Cloud-Tarife vorangetrieben. Ein lokales Setup beseitigt Sorgen über Nutzungslimits, Prompt-Analyse oder Account-Sperren – besonders wichtig für Sicherheitsforschung, Scraping oder andere Aktivitäten, die die Aufmerksamkeit von Cloud-Anbietern erregen könnten.
Für wen es geeignet ist
Entwickler, die bei lokalen KI-Coding-Agenten unentschlossen sind, insbesondere jene, die bisher skeptisch gegenüber der Qualität lokaler Modelle waren oder Cloud-Account-Risiken vermeiden müssen. Wenn Sie eine leistungsstarke GPU (z.B. RTX 5090) besitzen, ist die Erfahrung nun mit Cloud-Werkzeugen konkurrenzfähig.
Fazit
Der Benutzer berichtet von einem 'unglaublich befreienden' Erlebnis trotz gelegentlicher Aussetzer und ist der Meinung, dass die lokale KI-Entwicklung den Punkt erreicht hat, an dem sie 'wirklich sehr lohnenswert' ist.
📖 Quelle: r/LocalLLaMA
👀 Siehe auch
Claude Code v2.1.143: Plugin-Abhängigkeitsdurchsetzung, PowerShell-Standardeinstellungen und Hintergrundsitzungs-Korrekturen
Anthropic hat Claude Code v2.1.143 mit Plugin-Abhängigkeitserzwingung, PowerShell -ExecutionPolicy Bypass, einer neuen Worktree-Isolationsoption und zahlreichen Fehlerbehebungen für Hintergrundsitzungen, Windows Terminal und macOS-Dateizugriff veröffentlicht.
ClawProxy: Selbst gehosteter KI-Routing-Proxy zum Rotieren von Free-Tier-API-Schlüsseln
ClawProxy ist ein selbst gehosteter KI-Routing-Proxy, der mehrere KI-API-Schlüssel im Free-Tier verwaltet, um Ratenlimits und Überlastungen der Anbieter zu vermeiden. Er bietet In-Flight-Schlüsselrotation, gewichtetes Load Balancing, Modellübersetzung und ein Dashboard mit tiefgeparsten Logs.
OpenClaw-Speicherverlustbehebung mit dem Mem0-Plugin
OpenClaw-Agents erleiden Gedächtnisverlust aufgrund von Kontextkomprimierung, die Dateien wie MEMORY.md überschreibt. Das Mem0-Plugin löst dies, indem es das Gedächtnis außerhalb des Kontextfensters mit automatischer Erinnerung und automatischer Erfassung verschiebt.
9 kostenlose Claude-Code-Fähigkeiten für medizinische Forschungsabläufe
Ein Radiologieforscher hat 9 Claude Code Skills als Open-Source veröffentlicht, die den medizinischen Forschungsablauf von der Literatursuche bis zur Manuskripterstellung abdecken. Die Skills umfassen PubMed-Suche mit Anti-Halluzinations-Verifizierung, Generierung von Statistikanalyse-Code und Erstellung von publikationsreifen Abbildungen.