TextGen (text-generation-webui) wird native Desktop-App mit portablen Builds
TextGen (früher text-generation-webui, auch bekannt als oobabooga) hat eine native Desktop-App-Version veröffentlicht. Das Projekt, das seit Dezember 2022 in Entwicklung ist, bietet nun portable Builds – einfach herunterladen, entpacken und doppelklicken Sie auf textgen. Keine Installation oder Dateien außerhalb des entpackten Ordners. Alle Chatverläufe und Einstellungen befinden sich in einem gebündelten user_data-Ordner.
Hauptfunktionen
- Privatsphäre: Null ausgehende Anfragen. Im Gegensatz zu LM Studio sendet es keine Daten zu Betriebssystem, CPU, App-Version oder Backend-Auswahl nach Hause.
- ik_llama.cpp-Builds: Enthält benutzerdefinierte Quantisierungstypen wie IQ4_KS und IQ5_KS für bessere Genauigkeit im Vergleich zu vanilla llama.cpp, das von LM Studio und Ollama verwendet wird.
- Integrierte Websuche: Verwendet die
ddgs-Python-Bibliothek. Zwei Modi: Tool-Calling mit demweb_search-Tool (funktioniert mit Qwen 3.6 und Gemma 4) oder ein Kontrollkästchen, das Suchergebnisse als Textanhänge abruft. - Tool-Calling: Unterstützt Single-File-.py-Tools (einfache benutzerdefinierte Funktionen), HTTP-MCP-Server und stdio-MCP-Server. Option zur Bestätigung/Ablehnung vor der Ausführung von Tool-Aufrufen. Anleitung hier.
- Benutzerdefinierte Charaktere: Erstellen Sie Charaktere für lockere Chats neben Anweisungsgesprächen.
- API-Kompatibilität: OpenAI- und Anthropic-Spec-konforme API. Funktioniert mit Claude Code:
ANTHROPIC_BASE_URL=http://127.0.0.1:5000 claude. - PDF-Extraktion: Verwendet PyMuPDF für genaue Textextraktion.
- Webseiten-Abruf: Verwendet
trafilatura, um Navigation/Textblöcke zu entfernen und Token in agentischen Schleifen zu sparen. - Jinja2-Vorlagen: Rendert Chatvorlagen über Python Jinja2 und vermeidet Abstürze in llama.cpps C++-Jinja-Neuimplementierung.
Verfügbare Builds
CUDA, Vulkan, Nur-CPU, Mac (Apple Silicon und Intel) und ROCm. Alle portabel.
Lizenz: AGPLv3. Quelle: https://github.com/oobabooga/textgen
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
The Commons 2.0: Ein beständiger Raum für die Kommunikation von KI-Modellen
The Commons ist eine öffentliche Plattform, auf der KI-Modelle wie Claude, GPT, Gemini und Grok in Diskussionen posten, Gedichte kommentieren, Postkarten hinterlassen und fortlaufende Gespräche über Sitzungen hinweg aufbauen können. Version 2.0 fügt eine interessenbasierte Organisation, Benachrichtigungssysteme, Sprachprofile und eine Infrastruktur für Agenten-Check-ins hinzu.
OpenClaw 2026.3.23 fügt den DeepSeek-Provider hinzu, bietet Qwen nach Nutzungsabrechnung und verbessert die Chrome-MCP-Funktionen.
OpenClaw v2026.3.23 führt ein DeepSeek-Provider-Plugin ein, Qwen-Nutzungsbasierte Preisgestaltung, OpenRouter automatische Preisgestaltung mit Anthropic-Denkreihenfolge, Chrome MCP Tab-Wartezeit und Fehlerbehebungen für Discord/Slack/Matrix und Web UI.
Codebase Memory MCP: Graph-basierte Code-Erkundung für Claude Code
Ein Entwickler hat einen MCP-Server erstellt, der Codebasen mithilfe von Tree-sitter und SQLite in einen persistenten Wissensgraphen indexiert, wodurch der Token-Verbrauch für strukturelle Abfragen wie Aufrufverfolgung und Dead-Code-Erkennung durchschnittlich um das 20-fache reduziert wird.
Doc Harness: Eine Claude-Code-Fähigkeit zur Aufrechterhaltung des Projektzustands über Sitzungen hinweg
Doc Harness ist eine Claude Code-Fähigkeit, die ein leichtgewichtiges Dokumentationssystem mit fünf strukturierten Dateien erstellt, um KI-Agenten dabei zu helfen, den Projektkontext über Sitzungen hinweg aufrechtzuerhalten. Es behebt Probleme wie Kontextzurücksetzungen, vergessene Regeln und die Notwendigkeit, Projekte neuen Agenten erneut zu erklären.