Observer: Offline-Agenten für Monitoring und Logging – Nutzen Sie lokale LLMs auf Ihrem Telefon
Observer ist eine Open-Source-iOS-App, mit der Sie lokale LLMs in einer vollständig offline Konfiguration auf Ihrem Telefon ausführen können. Es verwendet eine einfache n-Sekunden-Agentenschleife: Es nimmt ein Bild über die Kamera auf (mit multimodalen Modellen), verarbeitet es mit einem lokalen LLM und führt dann Aktionen basierend auf der Antwort des Modells aus. Der Agent kann sich selbst starten und stoppen und entspricht damit der Definition von Anthropic für einen Agenten (nicht nur einem Workflow).
Hauptfunktionen
- 100 % offline – keine Anmeldung erforderlich, keine Netzwerkaufrufe für Inferenz.
- Unterstützung multimodaler Modelle: Der Agent sieht Bilder und antwortet mit Text.
- Discord-Benachrichtigungen funktionieren offline (andere Kanäle wie WhatsApp, E-Mail, SMS, Sprachanrufe und Telegram sind im Offline-Modus aufgrund fehlender Authentifizierung nicht verfügbar).
- Protokolliert Ereignisse und kann Beschreibungen in den Speicher des Agenten schreiben.
- Anpassbares Schleifenintervall (z. B. alle n Sekunden).
Einschränkungen
Da der Offline-Modus keine Authentifizierung hat, funktionieren Push-Benachrichtigungen über WhatsApp, E-Mail, SMS, Sprachanrufe und Telegram nicht. Discord-Benachrichtigungen funktionieren jedoch einwandfrei.
Verfügbarkeit
- iOS: Jetzt im App Store erhältlich.
- Android: Veröffentlichung in etwa 3 Tagen erwartet (nach der zweiwöchigen Testphase).
So funktioniert es (aus dem Tutorial)
Das Tutorial (unten verlinkt) führt durch die Einrichtung von Observer im Offline-Modus. Die Kernschleife ist:
Bild aufnehmen → multimodale LLM-Inferenz → Aktion (protokollieren / über Discord benachrichtigen) → alle n Sekunden wiederholen
Der Autor demonstriert die Verwendung der App zur Überwachung von beliebigen Dingen (z. B. Aufzeichnen, wenn etwas passiert, Beschreibungen in den Speicher schreiben).
Erste Schritte
GitHub: github.com/Roy3838/Observer
App Store: Observer AI im App Store
Für wen es geeignet ist: Entwickler, die private, offline KI-Agenten auf ihrem Telefon für Überwachung, Protokollierung oder Benachrichtigungen ausführen möchten – ohne Cloud-Abhängigkeiten.
📖 Vollständige Quelle lesen: r/LocalLLaMA
👀 Siehe auch
MCP-Server: Vergleich von lokalen und Cloud-LLMs mit Debattierfunktion
Der MCP-Server ermöglicht Entwicklern, lokale Modelle über Ollama neben verschiedenen Cloud-LLMs abzufragen, und bietet Funktionen wie einen Vergleich nebeneinander und eine strukturierte Debattenfunktion.
Claude IDE Bridge: WebSocket-Tool für Echtzeit-IDE-Zugriff
claude-ide-bridge ist eine WebSocket-Brücke, die Claude Code direkt mit dem internen Zustand der IDE verbindet und so Live-Diagnosen, Gehe-zur-Definition, Referenzsuche, Typ-Hovering, Dateiöffnung, Breakpoint-Verwaltung und Debugger-Zustandsstreaming ermöglicht.
Der Cortex-Engine MCP-Server fügt persistente Speicherung und Multi-Agenten-Unterstützung hinzu.
cortex-engine v0.4.0 ist ein Open-Source-MCP-Server, der KI-Agenten persistenten Langzeitspeicher mit Werkzeugen wie observe(), query(), believe() und dream() bietet. Er unterstützt jetzt mehrere Agenten mit isolierten Speichernamespaces.
Claw Code Agent: Python-Neuimplementierung der Claude-Code-Architektur für lokale Modelle
Claw Code Agent ist eine Python-Neuimplementierung der Claude-Code-Agent-Architektur, die mit lokalen Open-Source-Modellen über OpenAI-kompatible Backends wie vLLM und Ollama läuft und Funktionen wie Tool-Aufrufe, Slash-Befehle und gestufte Berechtigungen bietet.