OpenClaw auf 2 modifizierten 2080 Ti lokal mit vLLM hosten: Praxiserfahrung
Ein Reddit-Benutzer auf r/openclaw beschreibt sein Setup für lokales KI-Hosting mit zwei modifizierten 22GB 2080 Ti GPUs, die von Alibaba gekauft und über NVLink verbunden sind, und verwendet vLLM anstelle von Ollama für Tensor-Parallelität. Ziel ist ein Modell mit 20-30B Parametern, und die Community wird um Empfehlungen gebeten, die für leichte Programmierarbeiten, Homelab-Wartung, RAG, E-Mail-Sortierung und Dokumentenerstellung geeignet sind – schwere Programmieraufgaben werden an einen Codex OAuth-Dienst delegiert.
Wichtige Details aus dem Beitrag:
- Hardware: 2x 22 GB (modifizierte) 2080 Ti von Alibaba, wahrscheinlich ehemalige Mining-Karten. NVLink-Brücke verbindet sie.
- Software: vLLM wurde explizit gegenüber Ollama gewählt, um Tensor-Parallelität über beide GPUs zu nutzen.
- Ziel: Ein lokales Modell im Bereich von 20-30B Parametern für OpenClaw ausführen, mit Aufgaben wie leichter Programmierung, Homelab-Verwaltung, RAG, E-Mail-Sortierung und Dokumentengenerierung.
- Benutzer äußern Reue über den Impulskauf und suchen nach Bestätigung oder praktischen Modellvorschlägen.
Die Community-Diskussion (unten verlinkt) bietet Erfahrungsberichte ähnlicher Setups, Modellvorschläge (z. B. CodeLlama, DeepSeek Coder oder Allzweckmodelle wie Mixtral 8x7B) sowie Tipps zur Speicheroptimierung und zum Prompt-Engineering für vLLM. Einige Kommentatoren warnen vor der Zuverlässigkeit der modifizierten GPUs und empfehlen, zuerst mit kleineren Modellen zu testen.
📖 Read the full source: r/openclaw
👀 Siehe auch
Claude Code im Forschungsarbeitsablauf: Praktische Ergebnisse aus dem Schreiben von Fachartikeln
Ein Forscher nutzte Claude Code für Hilfsaufgaben beim Verfassen einer Arbeit und stellte fest, dass es effektiv für die Erstellung publikationsreifer Grafiken aus vagen Anweisungen, die Migration einer Suchumgebung zwischen Codebasen in weniger als einer Stunde und die Formatierung von über 12 Seiten mathematischer Beweise in LaTeX war, wobei es eine übersehene unvollständige Randbedingung erkannte. Es hatte Schwierigkeiten beim Debuggen eines Nebenläufigkeitsproblems, das tatsächlich ein CPU-Zuweisungsproblem war, das im Code oder in den Protokollen nicht ersichtlich war.
Ambient AI-Manager mit Claude Haiku für kontextbewusste Benachrichtigungen
Ein Entwickler hat ein ambientes KI-System mit Claude Haiku erstellt, das einzeilige kontextbezogene Benachrichtigungen basierend auf Notion-Aufgaben, Kalender, Biometrie und Schreibtischpräsenz liefert, die auf einem Raspberry Pi-Touchscreen-Balken angezeigt werden.
Verwenden von SkyClaw mit Google Sheets für den Bewerbungs-Workflow
Ein Reddit-Nutzer teilt seinen Arbeitsablauf mit OpenClaws SkyClaw-Agent, um die Jobsuche zu automatisieren. Er richtete ein Google Sheet ein, in das der Agent basierend auf seinem Lebenslauf Stellenangebote einträgt, mit täglichen Updates und Benachrichtigungen.
Agentur: Ein SKILL.md-Marktplatz, der mit Claude in 3 Wochen entwickelt wurde
Agensi ist ein Marktplatz für SKILL.md-Fähigkeiten, der mit Claude Code, Lovable und Supabase erstellt wurde. Die Plattform umfasst 37 Fähigkeiten in 8 Kategorien mit Funktionen wie automatischer Sicherheitsüberprüfung, Download-Fingerprinting und einem Bounty-Anfragesystem.