Запускайте локальные LLM на телефоне с Observer: offline-агенты для мониторинга и логирования

Observer — это iOS-приложение с открытым исходным кодом, которое позволяет запускать локальные LLM на вашем телефоне полностью в офлайн-режиме. Оно использует простой n-секундный цикл агента: делает снимок через камеру (с помощью мультимодальных моделей), обрабатывает его локальной LLM, а затем выполняет действия на основе ответа модели. Агент может запускаться и останавливаться самостоятельно, что соответствует определению агента от Anthropic (а не просто рабочего процесса).
Ключевые функции
- 100% офлайн — не требуется вход в систему, нет сетевых вызовов для вывода.
- Поддержка мультимодальных моделей: агент видит изображения и отвечает текстом.
- Уведомления Discord работают офлайн (другие каналы, такие как WhatsApp, Email, SMS, голосовые вызовы и Telegram, недоступны в офлайн-режиме из-за отсутствия аутентификации).
- Запись событий и возможность сохранения описаний в память агента.
- Настраиваемый интервал цикла (например, каждые n секунд).
Ограничения
Поскольку в офлайн-режиме нет аутентификации, push-уведомления через WhatsApp, Email, SMS, голосовые вызовы и Telegram работать не будут. Однако уведомления Discord функционируют отлично.
Доступность
- iOS: Доступно в App Store прямо сейчас.
- Android: Ожидаемый релиз через ~3 дня (после двухнедельного периода тестирования).
Как это работает (из руководства)
В руководстве (ссылка ниже) описана настройка Observer в офлайн-режиме. Основной цикл:
снимок → вывод мультимодальной LLM → действие (запись / уведомление через Discord) → повторить каждые n секунд
Автор демонстрирует использование приложения для мониторинга чего угодно (например, запись события, сохранение описания в память).
Начало работы
GitHub: github.com/Roy3838/Observer
App Store: Observer AI в App Store
Для кого это: Разработчикам, которые хотят запускать приватные, офлайн-агенты ИИ на своём телефоне для мониторинга, записи или оповещения — без зависимости от облака.
📖 Читать полный источник: r/LocalLLaMA
👀 Смотрите также

10.33 т/с на Qwen 3.5 35B с ноутбуком за $300: Полный разбор оптимизации
Разработчик достигает 10,33 т/с на Qwen 3.5 35B Q4_K_S на ноутбуке Lenovo Ideapad Slim 3i за $300 с использованием ik_llama.cpp, привязки ядер, спекулятивного декодирования MTP и оптимизации BIOS.

audio-analyzer-rs: Сервер MCP для анализа аудио с Claude
Разработчик создал audio-analyzer-rs — сервер MCP на Rust, который предоставляет Claude прямой доступ к анализу аудиофайлов, включая спектральный, гармонический, ритмический анализ, измерения громкости LUFS (стандарт EBU R128) и динамического диапазона. Инструмент эффективен по токенам: Claude начинает с низкого разрешения и при необходимости увеличивает детализацию небольших фрагментов.

Claude Code v2.1.176: Языково-адаптивные сеансы, кэширование учетных данных Bedrock и десятки исправлений
Названия сеансов теперь соответствуют языку беседы; учетные данные Bedrock кэшируются до истечения срока; исправлен обход принудительных моделей для /fast и переменных окружения; исправления буфера обмена tmux; исправление симлинка в песочнице.

Самодельный слой памяти для Claude бесплатно работает на Cloudflare
MCP-сервер Cloudflare Worker позволяет Клоду запоминать и извлекать заметки с помощью семантического поиска, используя Workers AI и Vectorize — все на бесплатном тарифе.