Lokale KI-Entwicklung mit Qwen3.6-27B und Opencode auf einer 5090
Ein Entwickler, der lokale LLMs zuvor als 'nicht auf dem Niveau' im Vergleich zu Cloud-Angeboten wie Claude Code oder Cursor abgetan hatte, ist kürzlich auf ein vollständig lokales Setup umgestiegen. Verwendet werden Opencode + llama-server + Qwen3.6-27B in einer vernünftigen Quantisierung mit 128K Kontext, laufend auf einer einzelnen RTX 5090 in einer dedizierten Linux-Box. Das Setup wird über das Netzwerk an den Hauptentwicklungsrechner bereitgestellt.
Wichtige Details
- Werkzeuge: Opencode (Frontend) + llama-server (Backend) + Qwen3.6-27B-Modell
- Hardware: 1× RTX 5090, dedizierte Linux-Maschine
- Kontextlänge: 128K Tokens (Benutzer unsicher, ob man noch höher gehen kann, fand es aber ausreichend)
- Leistung: Nicht perfekt – gelegentliche Schleifen erfordern manuelles Eingreifen – aber insgesamt 'sehr lohnenswert'
Motivation
Der Wechsel wurde durch zunehmende Nutzungsbeschränkungen und die 'Verschlechterung' der Cloud-Tarife vorangetrieben. Ein lokales Setup beseitigt Sorgen über Nutzungslimits, Prompt-Analyse oder Account-Sperren – besonders wichtig für Sicherheitsforschung, Scraping oder andere Aktivitäten, die die Aufmerksamkeit von Cloud-Anbietern erregen könnten.
Für wen es geeignet ist
Entwickler, die bei lokalen KI-Coding-Agenten unentschlossen sind, insbesondere jene, die bisher skeptisch gegenüber der Qualität lokaler Modelle waren oder Cloud-Account-Risiken vermeiden müssen. Wenn Sie eine leistungsstarke GPU (z.B. RTX 5090) besitzen, ist die Erfahrung nun mit Cloud-Werkzeugen konkurrenzfähig.
Fazit
Der Benutzer berichtet von einem 'unglaublich befreienden' Erlebnis trotz gelegentlicher Aussetzer und ist der Meinung, dass die lokale KI-Entwicklung den Punkt erreicht hat, an dem sie 'wirklich sehr lohnenswert' ist.
📖 Quelle: r/LocalLLaMA
👀 Siehe auch
Spine Swarm: Multi-Agenten-KI-System auf visueller Leinwand für Nicht-Programmier-Projekte
Spine Swarm ist ein Multi-Agenten-System, das auf einer unendlichen visuellen Leinwand arbeitet, um komplexe Nicht-Codierungsprojekte wie Wettbewerbsanalysen, Finanzmodellierung, SEO-Audits, Pitch Decks und interaktive Prototypen abzuschließen. Das System verwendet Blöcke als Abstraktionen über KI-Modellen, die verbunden werden können, um Kontext zwischen verschiedenen Modelltypen weiterzugeben.
Die Dual-Modell-Architektur reduziert den Token-Verbrauch für lange Gespräche um die Hälfte.
Ein Entwickler hat ein Dual-Modell-System aufgebaut, bei dem ein kleines 'Unterbewusstseins'-Modell im Hintergrund den Gesprächsverlauf komprimiert. Dadurch kann das Hauptmodell mit einem kuratierten Kontext von etwa 35K Token arbeiten, anstatt mit 120K Token des rohen Verlaufs. Diese Architektur reduziert den Token-Verbrauch bei längerfristigen Projektarbeiten ungefähr um die Hälfte.
Motiv MCP verleiht Claude Code die Fähigkeit, Videos anzusehen, um UI-Fehler zu reproduzieren
Motif ist ein MCP-Server, der es Claude Code ermöglicht, Bildschirmaufnahmen von UI-Fehlern zu analysieren. Mit Gemini 2.5 Flash werden die Aufnahmen Einzelbild für Einzelbild ausgewertet, um visuelle Beschreibungen, Ursachen und Code-Unterschiede zu liefern. Die Einrichtung erfordert einen Gemini-API-Schlüssel und zwei Zeilen in der mcp.json.
Workflow-Orchestrator mit KI-CLI-Integration für Sysadmin-Aufgaben
Ein Entwickler hat einen dateibasierten Workflow-Orchestrator namens 'workflow' erstellt, der sich mit Claude Code, Codex CLI und Gemini CLI integriert. Er generiert, aktualisiert, korrigiert und verfeinert YAML-Workflows aus natürlichen Sprachbeschreibungen für Sysadmin-Aufgaben.