OpenLobster: Selbst gehosteter KI-Agent in Go mit 30 MB RAM-Bedarf
OpenLobster ist ein selbst gehosteter KI-Assistent, der als einzelne Go-Binärdatei erstellt wurde und keine Python-Umgebung, node_modules oder Laufzeitverwaltung benötigt. Das Projekt wurde entwickelt, um einen persönlichen KI-Agenten bereitzustellen, der auf lokaler Hardware bleibt und mit jedem Modell arbeitet, das der Benutzer ausführt.
Technische Spezifikationen
Der Agent verwendet 30 MB RAM mit allen geladenen Diensten und hat eine Kaltstartzeit von 200 ms. Er läuft problemlos auf einem Raspberry Pi. Der Stack ist mit Go + gqlgen für das Backend und SolidJS + Vite für das Frontend aufgebaut und unter der GPL-3.0-Lizenz lizenziert.
LLM-Unterstützung
OpenLobster unterstützt mehrere LLM-Anbieter: OpenAI, Anthropic, Ollama, OpenRouter, Docker Model Runner oder alles mit einem OpenAI-kompatiblen Endpunkt. Benutzer wählen einen in den Einstellungen aus und können ihn jederzeit austauschen.
Speichersystem
Der Speicher ist als vollwertige Graphdatenbank mit zwei Backends implementiert: Neo4j für vollständige Graphabfragen oder ein lokales GML-Datei-Backend für einfachere Einrichtungen, die keine Datenbank erfordern. Der Agent baut beim Lernen typisierte Beziehungen auf, nicht nur flache Textdumps.
Mehrbenutzer-Funktionen
Die Mehrbenutzer-Funktionalität funktioniert ordnungsgemäß, wobei jede Person ihren eigenen Gesprächsverlauf, Speicher und Werkzeugberechtigungen erhält. Benutzer können verschiedene Personen auf Telegram und Discord haben, die mit demselben Agenten sprechen, ohne den Kontext der anderen zu sehen.
Integrationsfähigkeiten
- MCP-Integration unterstützt den vollständigen Streamable HTTP + OAuth 2.1-Fluss
- Berechtigungsmatrix pro Benutzer pro Werkzeug
- Marktplatz für Ein-Klick-Integrationen
- Kernkanäle: Telegram, Discord, Slack, WhatsApp, SMS (keine Plugins)
Aktueller Status
Das Projekt befindet sich noch in der Beta-Phase, wobei Audio-/Multimodal-Funktionen als "noch nicht ausgereift" beschrieben werden. Die Unterstützung lokaler Modelle und der geringe Ressourcenverbrauch werden als solide Funktionen hervorgehoben.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Kontext-os: Open-Source-Tool reduziert den Tokenverbrauch von Claude Code um 27–42 %
context-os ist ein lokaler Kontextoptimierer, der sich automatisch in Claude Code einklinkt, die Werkzeugausgabe komprimiert, bevor Claude sie sieht, und den Tokenverbrauch je nach Inhaltstyp um 27-42% reduziert.
Crow: Open-Source-MCP-Plattform fügt LLM-Frontends persistenten Speicher und P2P-Sharing hinzu
Crow ist eine Open-Source, selbst gehostete MCP-Server-Plattform, die LLM-Frontends SQLite-gestützten persistenten Speicher, strukturierte Forschungstools und verschlüsseltes Peer-to-Peer-Sharing bietet. Sie funktioniert mit jedem MCP-kompatiblen Client wie Claude Desktop, Cursor oder Windsurf und benötigt standardmäßig keine Cloud-Abhängigkeit.
Session Siphon: Open-Source-Tool konsolidiert KI-Coding-Agenten-Konversationen
Session Siphon ist ein kostenloses, quelloffenes Tool, das Konversationsverläufe mehrerer KI-Codierungsagenten über verschiedene Anbieter und Maschinen hinweg konsolidiert und indiziert. Der Entwickler hat es mit Hilfe von Claude erstellt, um das Problem der Nachverfolgung von Gesprächen über verschiedene Plattformen hinweg zu lösen.
Google Research stellt TurboQuant zur Komprimierung von KI-Modellen vor
Google Research hat TurboQuant eingeführt, einen Komprimierungsalgorithmus, der die Größe von KI-Modellen ohne Genauigkeitsverlust reduziert. Er behebt den Speichermehraufwand bei der Vektorquantisierung und verbessert die Leistung des Key-Value-Caches.