포켓봇: iOS용 로컬 AI 자동 조종 장치, 앱 인텐트와 온디바이스 추론 활용

PocketBot은 완전히 기기 내에서 실행되는 iOS 자동 조종 에이전트로, 네이티브 iOS 프레임워크를 사용하여 클라우드 서버로 데이터를 전송하지 않고 이벤트 기반 자동화를 생성합니다. 개발자들은 Claude Opus 4.6의 100만 컨텍스트 윈도우 도움을 받아 4주 동안 구축했습니다.

아키텍처 및 기술적 세부사항

이 시스템은 다음과 같은 주요 구성 요소로 프라이버시 우선 접근 방식을 사용합니다:

• 100% 로컬 추론: iPhone의 Neural Engine에서 Metal을 통해 양자화된 3B Llama 모델을 네이티브로 실행
• 네이티브 오케스트레이션: 화면 스크래핑 대신 Apple의 AppIntents 및 CoreLocation 프레임워크 사용
• 이벤트 기반 엔진: OS가 시스템 트리거(위치, 시간, 배터리)를 실행할 때만 백그라운드에서 깨어남
• 프라이버시 우선: 프롬프트, 데이터 및 자동화가 클라우드 서버로 전송되지 않음

현재 기능

베타 버전의 세 가지 작동 예시:

• 배터리 세이버: "배터리가 5% 이하로 떨어지면 화면을 어둡게 하고 파트너에게 실시간 위치를 문자로 보내세요."
• 모닝 브리핑: "오전 7시에 내 캘린더/리마인더/이메일을 스캔하고 날씨를 확인한 후 단일 요약 알림을 푸시하세요."
• Monzo/핀테크 해킹: "맥도날드 근처를 걸을 때마다 £10을 저축 계좌로 이동하세요."

개발 배경 및 과제

개발자들은 PocketBot을 "검색창이 아닌 운전사"—단순한 채팅봇 래퍼가 아닌 실제 에이전트를 원했기 때문에 구축했습니다. 그들은 네이티브 iOS API를 중심으로 아키텍처를 설계하여 OS와의 충돌을 피했습니다.

현재 제한 사항에는 A-시리즈 칩의 메모리 제한과 기기 내 추론 시의 문제가 포함됩니다. 베타 버전은 다양한 iPhone 모델에서 배터리 영향을 모니터링하기 위해 1,000명의 테스터로 제한되며, 특히 iPhone 15 Pro 이상 기기에서 iOS가 앱 프로세스를 종료하는지 테스트하는 데 관심이 있습니다.