Запускайте локальные LLM на телефоне с Observer: offline-агенты для мониторинга и логирования

Observer — это iOS-приложение с открытым исходным кодом, которое позволяет запускать локальные LLM на вашем телефоне полностью в офлайн-режиме. Оно использует простой n-секундный цикл агента: делает снимок через камеру (с помощью мультимодальных моделей), обрабатывает его локальной LLM, а затем выполняет действия на основе ответа модели. Агент может запускаться и останавливаться самостоятельно, что соответствует определению агента от Anthropic (а не просто рабочего процесса).

Ключевые функции

• 100% офлайн — не требуется вход в систему, нет сетевых вызовов для вывода.
• Поддержка мультимодальных моделей: агент видит изображения и отвечает текстом.
• Уведомления Discord работают офлайн (другие каналы, такие как WhatsApp, Email, SMS, голосовые вызовы и Telegram, недоступны в офлайн-режиме из-за отсутствия аутентификации).
• Запись событий и возможность сохранения описаний в память агента.
• Настраиваемый интервал цикла (например, каждые n секунд).

Ограничения

Поскольку в офлайн-режиме нет аутентификации, push-уведомления через WhatsApp, Email, SMS, голосовые вызовы и Telegram работать не будут. Однако уведомления Discord функционируют отлично.

Доступность

• iOS: Доступно в App Store прямо сейчас.
• Android: Ожидаемый релиз через ~3 дня (после двухнедельного периода тестирования).

Как это работает (из руководства)

В руководстве (ссылка ниже) описана настройка Observer в офлайн-режиме. Основной цикл:
снимок → вывод мультимодальной LLM → действие (запись / уведомление через Discord) → повторить каждые n секунд
Автор демонстрирует использование приложения для мониторинга чего угодно (например, запись события, сохранение описания в память).

Начало работы

GitHub: github.com/Roy3838/Observer
App Store: Observer AI в App Store

Для кого это: Разработчикам, которые хотят запускать приватные, офлайн-агенты ИИ на своём телефоне для мониторинга, записи или оповещения — без зависимости от облака.