Observer로 로컬 LLM을 휴대폰에서 실행하세요: 모니터링 및 로깅을 위한 오프라인 에이전트

Observer는 오픈소스 iOS 앱으로, 완전히 오프라인 상태에서 휴대폰에서 로컬 LLM을 실행할 수 있습니다. 간단한 n초 에이전트 루프를 사용합니다. 카메라로 이미지를 캡처하고(멀티모달 모델 사용), 로컬 LLM으로 처리한 후, 모델의 응답에 따라 작업을 실행합니다. 에이전트는 스스로 시작하고 중지할 수 있으며, 이는 Anthropic의 에이전트 정의(단순한 워크플로우가 아님)와 일치합니다.

주요 기능

• 100% 오프라인 — 로그인 불필요, 추론을 위한 네트워크 호출 없음.
• 멀티모달 모델 지원: 에이전트가 이미지를 보고 텍스트로 응답합니다.
• Discord 알림은 오프라인에서 작동합니다.(인증이 없으므로 WhatsApp, 이메일, SMS, 음성 통화, Telegram 등 다른 채널은 오프라인 모드에서 사용할 수 없습니다.)
• 이벤트를 기록하고 에이전트 메모리에 설명을 작성할 수 있습니다.
• 루프 간격 사용자 지정 가능(예: 매 n초).

제한 사항

오프라인 모드에는 인증이 없으므로 WhatsApp, 이메일, SMS, 음성 통화, Telegram을 통한 푸시 알림이 작동하지 않습니다. 그러나 Discord 알림은 완벽하게 작동합니다.

사용 가능 여부

• iOS: 현재 App Store에서 사용 가능.
• Android: 약 3일 후 출시 예정(2주 테스트 기간 이후).

작동 방식(튜토리얼에서)

튜토리얼(아래 링크)에서는 Observer를 오프라인 모드로 설정하는 방법을 안내합니다. 핵심 루프는 다음과 같습니다.
이미지 캡처 → 멀티모달 LLM 추론 → 작업(로그 / Discord 알림) → 매 n초마다 반복
저자는 앱을 사용하여 무엇이든 모니터링하는 방법을 시연합니다(예: 이벤트 발생 시 기록, 메모리에 설명 작성).

시작하기

GitHub: github.com/Roy3838/Observer
App Store: Observer AI on the App Store

대상: 클라우드 의존성 없이 개인적이고 오프라인인 AI 에이전트를 휴대폰에서 실행하여 모니터링, 로깅 또는 알림을 받고자 하는 개발자.