OpenLobster: Selbst gehosteter KI-Agent in Go mit 30 MB RAM-Bedarf
OpenLobster ist ein selbst gehosteter KI-Assistent, der als einzelne Go-Binärdatei erstellt wurde und keine Python-Umgebung, node_modules oder Laufzeitverwaltung benötigt. Das Projekt wurde entwickelt, um einen persönlichen KI-Agenten bereitzustellen, der auf lokaler Hardware bleibt und mit jedem Modell arbeitet, das der Benutzer ausführt.
Technische Spezifikationen
Der Agent verwendet 30 MB RAM mit allen geladenen Diensten und hat eine Kaltstartzeit von 200 ms. Er läuft problemlos auf einem Raspberry Pi. Der Stack ist mit Go + gqlgen für das Backend und SolidJS + Vite für das Frontend aufgebaut und unter der GPL-3.0-Lizenz lizenziert.
LLM-Unterstützung
OpenLobster unterstützt mehrere LLM-Anbieter: OpenAI, Anthropic, Ollama, OpenRouter, Docker Model Runner oder alles mit einem OpenAI-kompatiblen Endpunkt. Benutzer wählen einen in den Einstellungen aus und können ihn jederzeit austauschen.
Speichersystem
Der Speicher ist als vollwertige Graphdatenbank mit zwei Backends implementiert: Neo4j für vollständige Graphabfragen oder ein lokales GML-Datei-Backend für einfachere Einrichtungen, die keine Datenbank erfordern. Der Agent baut beim Lernen typisierte Beziehungen auf, nicht nur flache Textdumps.
Mehrbenutzer-Funktionen
Die Mehrbenutzer-Funktionalität funktioniert ordnungsgemäß, wobei jede Person ihren eigenen Gesprächsverlauf, Speicher und Werkzeugberechtigungen erhält. Benutzer können verschiedene Personen auf Telegram und Discord haben, die mit demselben Agenten sprechen, ohne den Kontext der anderen zu sehen.
Integrationsfähigkeiten
- MCP-Integration unterstützt den vollständigen Streamable HTTP + OAuth 2.1-Fluss
- Berechtigungsmatrix pro Benutzer pro Werkzeug
- Marktplatz für Ein-Klick-Integrationen
- Kernkanäle: Telegram, Discord, Slack, WhatsApp, SMS (keine Plugins)
Aktueller Status
Das Projekt befindet sich noch in der Beta-Phase, wobei Audio-/Multimodal-Funktionen als "noch nicht ausgereift" beschrieben werden. Die Unterstützung lokaler Modelle und der geringe Ressourcenverbrauch werden als solide Funktionen hervorgehoben.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
AgentRoom: Desktop-App visualisiert KI-Codierungsagenten als Pixelcharaktere mit Sitzungssuche
AgentRoom ist eine Desktop-App, die Claude Code-, Codex- und Gemini-Sitzungen in animierte Pixel-Charaktere in einem virtuellen Büro verwandelt, mit Volltext-Semantiksuche über alle Sitzungen. Das Repo enthält eine eigenständige Claude Code-Skill zum Durchsuchen vergangener Sitzungen aus jeder Konversation.
Helix: Open-Source-Framework verwandelt Claude in einen persönlichen KI-Agenten für macOS
Helix ist ein Open-Source-Framework, das Claude über Claude Code im Terminal mit macOS über vier MCP-Server-Plugins verbindet und es Claude ermöglicht, Anwendungen zu steuern, dauerhaften Speicher zu verwalten, geplante Aufgaben auszuführen und mit lokaler Sprachverarbeitung zu arbeiten.
Entwickler baut Open-Source-KI-Fähigkeit zur Validierung von Startup-Ideen und verwirft eigene Idee in 10 Minuten
Ein Entwickler hat eine Open-Source-KI-Fähigkeit namens startup-design erstellt, die durch 8 Phasen der Startup-Validierung führt, von der Ideenfindung bis zu den Finanzprognosen. Als er sie an seiner eigenen Startup-Idee testete, stellte die Fähigkeit schwierige Fragen, die zeigten, dass er nicht der richtige Gründer für dieses spezielle Konzept war.
Qwen 3.5 35B läuft mit 8 GB VRAM und llama.cpp-Konfiguration
Ein Entwickler teilt seine llama.cpp-Konfiguration für den Betrieb von Qwen 3.5 35B (Q4_K_M GGUF) auf einer RTX 4060m mit 8 GB VRAM, erreicht 700 t/s bei der Prompt-Verarbeitung und 42 t/s bei der Generierung und diskutiert die Verwendung von Cline in VSCode mit kat-coder-pro- und qwen3.5-Modi.