PocketBot: Un piloto automático de IA local para iOS que utiliza App Intents e inferencia en el dispositivo

PocketBot es un agente piloto automático para iOS que funciona completamente en el dispositivo, utilizando frameworks nativos de iOS para crear automatizaciones basadas en eventos sin enviar datos a servidores en la nube. Los desarrolladores lo construyeron en cuatro semanas con ayuda de la ventana de contexto de 1M de Claude Opus 4.6.

Arquitectura y Detalles Técnicos

El sistema utiliza un enfoque centrado en la privacidad con estos componentes clave:

• Inferencia 100% Local: Ejecuta un modelo Llama 3B cuantizado de forma nativa en el Neural Engine del iPhone mediante Metal
• Orquestación Nativa: Utiliza los frameworks AppIntents y CoreLocation de Apple en lugar de captura de pantalla
• Motor Basado en Eventos: Solo se activa en segundo plano cuando el sistema operativo dispara desencadenadores del sistema (ubicación, hora, batería)
• Privacidad Primero: Las indicaciones, datos y automatizaciones nunca llegan a servidores en la nube

Capacidades Actuales

Tres ejemplos funcionales de la beta:

• El Salvador de Batería: "Si mi batería cae por debajo del 5%, atenúa la pantalla y envía un mensaje a mi pareja con mi ubicación en vivo."
• Resumen Matutino: "A las 7 AM, escanea mi calendario/recordatorios/correos, revisa el clima y envíame una única notificación de resumen."
• Trucos de Monzo/FinTech: "Si camino cerca de un McDonald's, transfiere £10 a mi bote de ahorros."

Contexto de Desarrollo y Desafíos

Los desarrolladores construyeron PocketBot porque querían un "Conductor, no una Barra de Búsqueda"—un agente real en lugar de solo otro envoltorio de chatbot. Específicamente evitaron luchar contra el sistema operativo al diseñar alrededor de las APIs nativas de iOS.

Las limitaciones actuales incluyen lidiar con los límites de memoria de los chips de la serie A durante el razonamiento en el dispositivo. La beta está limitada a 1,000 probadores para monitorear el impacto en la batería en diferentes modelos de iPhone, con especial interés en probar en iPhone 15 Pro o dispositivos más nuevos para ver si iOS termina el proceso de la aplicación.