rawq: Lokales CLI-Tool für semantische KI-Agenten-Codesuche
Was rawq macht
rawq ist ein lokales CLI-Tool, das KI-Agenten hilft, relevanten Code zu finden, ohne ganze Dateien lesen zu müssen. Es verwendet semantische Suche, um KI-Agenten zu bestimmten Codeabschnitten statt zu ganzen Dateien zu führen, sodass sie read/grep auf den richtigen Dateien anwenden können. Das Tool ist weder RAG noch ein Ersatz für read/grep.
Technische Umsetzung
rawq verwendet standardmäßig ein 33 MB großes lokales Modell, das über ONNX Runtime für semantische Suche arbeitet, kombiniert mit lexikalischer BM25-Suche über tantivy. Das Tool unterstützt Tree Sitter Code Chunking für 16 Sprachen und läuft auf jeder GPU dank ONNX mit DirectML, CUDA oder CoreML, mit automatischem CPU-Fallback.
Leistung und Funktionen
In Tests verbrauchten KI-Agenten, die rawq nutzten, 4x weniger Tokens und erledigten Aufgaben 2x schneller im Vergleich zu blinden read/grep-Tools. rawq verfügt außerdem über einen map-Befehl, der die Struktur einer Codebasis anzeigt.
Entwicklungsdetails
Das Tool ist in Rust geschrieben, vollständig Open-Source und unter der MIT-Lizenz veröffentlicht. Es ist auf GitHub unter https://github.com/auyelbekov/rawq verfügbar.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Open-Source-AI-Speicher für NodeJS-Projekte
Mind Palace ist ein Open-Source-Speicher- und Abrufsystem für NodeJS, das Informationen über LLM-Chat-Sitzungen hinweg speichert. Es unterstützt wichtige LLMs und Vektorspeicher, extrahiert automatisch Erinnerungen aus Interaktionen und wandelt sie in Vektoren um.
HostMyClaudeHTML: Ein-Klick-Freigabe für Claude-HTML-Artefakte
Ein Entwickler hat hostmyclaudehtml.com erstellt, ein kostenloses Tool, mit dem Sie von Claude generierte HTML-Artefakte als Live-URLs teilen können, indem Sie die .html-Datei per Drag-and-Drop hochladen. Für Uploader oder Betrachter ist kein Konto erforderlich.
SourceBridge: Open-Source-Tool zur Codebasis-Analyse mit lokalen LLMs
SourceBridge ist ein Open-Source-Tool, das Git-Repositories in Symbolgraphen indiziert und lokale LLMs nutzt, um Codebase-Zusammenfassungen, Architekturführungen und Lernmaterialien zu generieren. Es unterstützt mehrere lokale Backends, darunter Ollama, llama.cpp, vLLM, LM Studio und SGLang über OpenAI-kompatible APIs.
Externes Reranker-Plugin für OpenClaw Memory-Core: Alte GPUs wiederverwenden
Ein Entwickler teilt ein Plugin für OpenClaw, das memory-core die Verwendung eines externen Rerankers ermöglicht und so die Leistung auf CPU-limitierten Systemen verbessert.