Neuling baut lokales „zweites Gehirn“ auf Intel Arc Pro B60 auf: Qwen 3.8 27B mit 38 tok/s, 128K Kontext

Ein Nicht-Entwickler ohne Programmierhintergrund baute einen größtenteils lokalen persönlichen KI-Agenten (OpenClaw) auf einem alten Dell OptiPlex und errichtete anschließend einen dedizierten KI-Server rund um eine Intel Arc Pro B60 GPU. Die Quelle ist ein detaillierter Bericht über die genaue Hardware, die Kosten und die Ergebnisse – einschließlich des Betriebs von Qwen 3.8 27B mit etwa 38 tok/s und einem 128K-Kontextfenster.

Wie es begann

Der Autor war ein durchschnittlicher Chatbot-Nutzer – nur Recherche und Schreiben – bis ein YouTube-Video über OpenClaw (einen KI-Agenten, der tatsächlich Dinge tut, nicht nur chattet) ihn zum Bauen brachte. Die Einrichtung dauerte etwa 2 Tage mit einem kostenlosen Claude-Konto auf einem alten Dell OptiPlex 3431, anfangs mit einem ChatGPT-Abo für 20 $/Monat.

Der Dell (Steuerungsebene des Agenten)

• CPU: Intel Core i9-9900 (aufgerüstet von Standard-i5)
• RAM: 32GB DDR4-2666 (waren 64GB, die Hälfte wanderte in die KI-Box)
• GPU: NVIDIA Quadro P620, 2GB (Standard, für KI nutzlos)
• OS-Laufwerk: 512GB NVMe (hinzugefügt)
• Speicher: 2TB SATA SSD (original)
• Betriebssystem: Windows 11 Pro

Betreibt OpenClaw (Agenten-Harness), Speicher, Scheduling, Telegram (die Chat-Oberfläche), Backups und speichert lokale Modelle, die jederzeit auf die KI-Box deployt werden können.

Stabilitätsprobleme ließen sich auf billige „Graumarkt“-Speicherriegel zurückführen, die Dell auf Amazon mitlieferte – der Autor vermutet, dass fehlerhafter RAM Windows-Dateien beschädigt hat. Das i9-Upgrade wird als die bisher einzige Fehlinvestition bezeichnet (200 $ auf eBay), wobei der Agent buchstäblich darum flehte, es nicht zu kaufen.

Die BlackBox (BB) – dedizierter KI-Server

Während der Agent lief, bestellte der Autor ein Mac Studio für 2.000 $ und stornierte es wieder, nachdem er erkannte, dass es kein Modell ausführen konnte, das die nötigen Aufgaben erfüllt. Kurzzeitig ging er vollständig in die Cloud: 20 $/Monat Claude plus ein ChatGPT-Plan für 100 $ = 120 $/Monat nur für den Betrieb des Agenten, was sich wie eine Falle anfühlte.

Der Wendepunkt waren kleine offene Modelle – Qwen, GPT-OSS 20B, Mistral, Gemma. Als Qwen 3.8 27B herauskam, entschied er sich, eine separate Maschine zu bauen, die nichts anderes tut, als KI für den Agenten bereitzustellen. Diese Trennung wird als die beste Entscheidung des Projekts beschrieben.

Die Leitregel

Alles muss generisch und austauschbar sein – niemals fest an ein Modell, eine Hardwarekomponente oder gar den Agenten-Harness selbst gebunden. Das ermöglicht es, den Host-Rechner des Agenten zu wechseln, während die lokale Inferenz bleibt, wo sie ist.

Berichtete Zahlen

Qwen 3.8 27B mit etwa 38 tok/s und einem 128K-Kontextfenster auf der Intel Arc Pro B60 – jetzt das Standardmodell, mit Cloud-Modellen als Backup statt umgekehrt. Vollständige Spezifikationen, Konfiguration und Zahlen stehen im Originalbeitrag.