OpenClaw auf 2 modifizierten 2080 Ti lokal mit vLLM hosten: Praxiserfahrung
Ein Reddit-Benutzer auf r/openclaw beschreibt sein Setup für lokales KI-Hosting mit zwei modifizierten 22GB 2080 Ti GPUs, die von Alibaba gekauft und über NVLink verbunden sind, und verwendet vLLM anstelle von Ollama für Tensor-Parallelität. Ziel ist ein Modell mit 20-30B Parametern, und die Community wird um Empfehlungen gebeten, die für leichte Programmierarbeiten, Homelab-Wartung, RAG, E-Mail-Sortierung und Dokumentenerstellung geeignet sind – schwere Programmieraufgaben werden an einen Codex OAuth-Dienst delegiert.
Wichtige Details aus dem Beitrag:
- Hardware: 2x 22 GB (modifizierte) 2080 Ti von Alibaba, wahrscheinlich ehemalige Mining-Karten. NVLink-Brücke verbindet sie.
- Software: vLLM wurde explizit gegenüber Ollama gewählt, um Tensor-Parallelität über beide GPUs zu nutzen.
- Ziel: Ein lokales Modell im Bereich von 20-30B Parametern für OpenClaw ausführen, mit Aufgaben wie leichter Programmierung, Homelab-Verwaltung, RAG, E-Mail-Sortierung und Dokumentengenerierung.
- Benutzer äußern Reue über den Impulskauf und suchen nach Bestätigung oder praktischen Modellvorschlägen.
Die Community-Diskussion (unten verlinkt) bietet Erfahrungsberichte ähnlicher Setups, Modellvorschläge (z. B. CodeLlama, DeepSeek Coder oder Allzweckmodelle wie Mixtral 8x7B) sowie Tipps zur Speicheroptimierung und zum Prompt-Engineering für vLLM. Einige Kommentatoren warnen vor der Zuverlässigkeit der modifizierten GPUs und empfehlen, zuerst mit kleineren Modellen zu testen.
📖 Read the full source: r/openclaw
👀 Siehe auch
Claude Cowork geplante Aufgabe automatisiert browserbasierte Verwaltungsarbeit: Ein echter Anwendungsfall
Claude Coworks geplante Aufgaben + Chrome-Erweiterung automatisieren die Genehmigung von Partnernetzwerken und sparen wöchentlich Stunden. Manueller Schritt: Einmal pro Sitzung anmelden.
Nicht-Programmierer erstellt vollständigen Prospecting-Stack mit Claude Code und APIs
Ein Reddit-Nutzer ohne Programmiererfahrung hat an einem Wochenende ein komplettes Outbound-Prospecting-System mit Claude Code, Crustdata für Unternehmens- und Personensuche, FullEnrich für die Kontaktanreicherung und Instantly für den Versand gebaut.
Automatisierung von Claude-Code-Workflows mit dem Autoloop-System für eine 10-fache Durchsatzsteigerung
Ein Entwickler baute ein Autoloop-System, das den Plan-Implementieren-Test-Zyklus mit Claude Code und Codex CLI automatisiert, wodurch ein 10-facher Durchsatz erreicht und eine produktionsreife App mit 20.000 Zeilen Code in etwas mehr als einer Stunde erstellt wurde.
Mesh-Architektur für KI-Agenten: Client-Isolation und projektübergreifende Koordination
Ein Entwickler, der eine Mikroagentur betreibt, beschreibt eine Mesh-Architektur, bei der jeder Kunde spezialisierte KI-Agenten erhält, die über Markdown-Dateien kommunizieren. Dies ermöglicht Domänenexpertise, projektübergreifende Koordination und Kundenisolierung über 44 Projekte und 14 Organisationen hinweg.