PocketBot：App Intentsとオンデバイス推論を活用したiOS向けローカルAIオートパイロット

PocketBotは、完全にデバイス上で動作するiOS自動操縦エージェントで、ネイティブなiOSフレームワークを使用して、クラウドサーバーにデータを送信することなくイベント駆動型の自動化を実現します。開発者は、Claude Opus 4.6の100万トークンコンテキストウィンドウの助けを借りて、4週間かけて構築しました。

アーキテクチャと技術詳細

このシステムは、以下の主要コンポーネントを用いたプライバシー優先のアプローチを採用しています：

• 100%ローカル推論： iPhoneのNeural Engine上でMetalを介して量子化された3B Llamaモデルをネイティブに実行
• ネイティブオーケストレーション： スクリーンスクレイピングの代わりにAppleのAppIntentsおよびCoreLocationフレームワークを活用
• イベント駆動型エンジン： OSがシステムトリガー（位置情報、時間、バッテリー）を発火した時のみバックグラウンドで起動
• プライバシー優先： プロンプト、データ、自動化設定がクラウドサーバーに送信されることは一切ない

現在の機能

ベータ版での動作例3つ：

• バッテリーセイバー： 「バッテリーが5%を下回ったら、画面を暗くしてパートナーに現在地をテキスト送信」
• 朝のブリーフィング： 「午前7時に、カレンダー/リマインダー/メールをスキャンし、天気を確認して、単一の要約通知をプッシュ」
• Monzo/FinTechハック： 「マクドナルドの近くを通ったら、貯蓄ポットに10ポンドを移動」

開発背景と課題

開発者がPocketBotを構築した理由は、「検索バーではなくドライバー」、つまり単なるチャットボットラッパーではなく実際のエージェントが欲しかったからです。彼らは特に、ネイティブiOS APIを中心にアーキテクチャを設計することで、OSとの戦いを回避しました。

現在の制限事項には、オンデバイス推論中のAシリーズチップのメモリ制限との戦いが含まれます。ベータ版は1,000人のテスターに限定されており、異なるiPhoneモデル間でのバッテリーへの影響を監視しています。特に、iOSがアプリプロセスを強制終了するかどうかを確認するため、iPhone 15 Pro以降のデバイスでのテストに関心を持っています。