Observer: Offline-Agenten für Monitoring und Logging – Nutzen Sie lokale LLMs auf Ihrem Telefon

Observer ist eine Open-Source-iOS-App, mit der Sie lokale LLMs in einer vollständig offline Konfiguration auf Ihrem Telefon ausführen können. Es verwendet eine einfache n-Sekunden-Agentenschleife: Es nimmt ein Bild über die Kamera auf (mit multimodalen Modellen), verarbeitet es mit einem lokalen LLM und führt dann Aktionen basierend auf der Antwort des Modells aus. Der Agent kann sich selbst starten und stoppen und entspricht damit der Definition von Anthropic für einen Agenten (nicht nur einem Workflow).

Hauptfunktionen

• 100 % offline – keine Anmeldung erforderlich, keine Netzwerkaufrufe für Inferenz.
• Unterstützung multimodaler Modelle: Der Agent sieht Bilder und antwortet mit Text.
• Discord-Benachrichtigungen funktionieren offline (andere Kanäle wie WhatsApp, E-Mail, SMS, Sprachanrufe und Telegram sind im Offline-Modus aufgrund fehlender Authentifizierung nicht verfügbar).
• Protokolliert Ereignisse und kann Beschreibungen in den Speicher des Agenten schreiben.
• Anpassbares Schleifenintervall (z. B. alle n Sekunden).

Einschränkungen

Da der Offline-Modus keine Authentifizierung hat, funktionieren Push-Benachrichtigungen über WhatsApp, E-Mail, SMS, Sprachanrufe und Telegram nicht. Discord-Benachrichtigungen funktionieren jedoch einwandfrei.

Verfügbarkeit

• iOS: Jetzt im App Store erhältlich.
• Android: Veröffentlichung in etwa 3 Tagen erwartet (nach der zweiwöchigen Testphase).

So funktioniert es (aus dem Tutorial)

Das Tutorial (unten verlinkt) führt durch die Einrichtung von Observer im Offline-Modus. Die Kernschleife ist:
Bild aufnehmen → multimodale LLM-Inferenz → Aktion (protokollieren / über Discord benachrichtigen) → alle n Sekunden wiederholen
Der Autor demonstriert die Verwendung der App zur Überwachung von beliebigen Dingen (z. B. Aufzeichnen, wenn etwas passiert, Beschreibungen in den Speicher schreiben).

Erste Schritte

GitHub: github.com/Roy3838/Observer
App Store: Observer AI im App Store

Für wen es geeignet ist: Entwickler, die private, offline KI-Agenten auf ihrem Telefon für Überwachung, Protokollierung oder Benachrichtigungen ausführen möchten – ohne Cloud-Abhängigkeiten.