Konfiguration von OpenClaw mit VAST.AI GPU-Miete für unbegrenzte Ollama-Prompts
OpenClaw-Konfigurationsherausforderung mit Remote-KI
Ein Nutzer auf r/openclaw wollte OpenClaw testen, stellte aber fest, dass die meisten KI-Optionen in der Liste kostenpflichtige Versionen waren. Die einzige kostenlose Option war Ollama, das begrenzte Prompts bietet. Selbst die kostenpflichtige Version von Ollama bietet nur vage "50 % mehr Aufrufe" ohne genaue Zahlen.
Um diese Einschränkungen zu umgehen, entdeckte der Nutzer VAST.AI, einen Dienst, der GPUs mit Linux stundenweise zu niedrigen Kosten vermietet. Dieser Aufbau ermöglichte unbegrenzte Prompts mit Ollama über OpenClaw, die auf entfernten RTX-Karten liefen.
Konfigurationshürde
Das Hauptproblem waren die Konfigurationsbeschränkungen von OpenClaw. Laut dem Nutzer: "Openclaw scheint es nicht zu mögen, wenn man versucht, eine andere Remote-KI außerhalb dessen zu konfigurieren, wofür es eingerichtet ist. Es möchte nur die offizielle Ollama-Website oder eine offline auf dem Computer installierte Version verwenden."
Die einzige erfolgreiche Methode war die direkte Konfiguration der config .json-Datei: "Der einzige Weg, wie ich es dazu bringen konnte, mich mit meiner vast.ai+ollama-Einrichtung zu verbinden, war die direkte Konfiguration der config .json-Datei, was etwas Lernaufwand erforderte, um sie einzurichten."
Nutzerfrage
Der Nutzer fragt: "Gibt es einen einfacheren Weg, eine vast ai+Ollama-Einrichtung mit openclaw einzurichten? Anstatt mit openclaw zu kämpfen, um es zu konfigurieren. Da ich neu darin bin, habe ich einfach den richtigen Weg verpasst?"
📖 Read the full source: r/openclaw
👀 Siehe auch
LLM-Memory.net: Open-Source-Speichersystem mit Multi-Agenten-Infrastruktur
LLM-Memory.net ist ein selbst-hostbares Speichersystem für KI-Agenten, das Notizenspeicherung mit semantischer Suche, Echtzeit-Chat-/Mail-Kommunikation zwischen Agenten, strukturierte Diskussionen mit Abstimmungen und MCP-Server-Integration bietet. Der vollständige Quellcode ist auf GitHub mit Installer und Ansible Playbooks verfügbar.
Utilyze: Open-Source GPU-Monitor, der echten Rechendurchsatz misst, nicht nur Kernel-Aktivität
Utilyze nutzt Hardware-Performance-Counter, um Rechen- und Speicherdurchsatz relativ zu theoretischen Grenzen zu messen. Dabei zeigt sich, dass Dashboards mit 100% Auslastung oft nur 1-10% echten Durchsatz aufweisen.
KI-Codeabruf: Warum Vektor-Embeddings scheitern und dateiweise LLM-Graphen gewinnen
Nach einem Jahr Aufbau eines Code-Indexierungssystems stellte das Team hinter Bytebell fest, dass Vektor-Embeddings auf Code-Chunks und Tree-Sitter-ASTs beide unzureichend waren, während pro-Datei-LLM-Zusammenfassungen, die in einem Neo4j-Graphen mit semantischer Volltextsuche gespeichert sind, die Retrieval-Präzision deutlich verbesserten.
Eä: Ein SIMD-Compiler für Python, geschrieben in Rust
Ein Entwickler hat Eä erstellt, einen Compiler für SIMD-Kernel in etwa 12.000 Zeilen Rust-Code, der aus .ea-Dateien Shared Libraries und Python-Wrapper generiert und dabei 6,6-fache Geschwindigkeitssteigerungen gegenüber NumPy ohne ctypes oder Build-Systeme erzielt.