Depurando un Pequeño Agente de IA en un Teléfono Nokia Antiguo: 18 Intentos para el Éxito

Un desarrollador intentó ejecutar Picobot, un agente de IA de un solo binario de ~12 MB escrito en Go, en un viejo teléfono Android Nokia mediante Termux. El objetivo era un agente de bolsillo 24/7 con integración de Telegram, soporte para herramientas (búsqueda web, shell), memoria y costos recurrentes mínimos.

Los 18 intentos fallidos

Los intentos 1–4 utilizaron modelos gratuitos de OpenRouter (Gemini flash-exp, Qwen 2.5 7B, Llama 3.3 70B, Llama 3.2 3B), todos fallando con errores 404 "No se encontraron endpoints que admitan el uso de herramientas" o errores de ID de modelo no válido. El enrutamiento de nivel gratuito no habilitaba las herramientas en la mayoría de los modelos pequeños.

Los intentos 5–8 utilizaron Groq directamente (Llama 3.3 70B, Mixtral 8x7B, Llama 3.1 8B, Gemma 2 9B). Los modelos estaban descontinuados (errores 400) o alucinaban formatos de herramienta no válidos (etiquetas XML <function>), causando errores 400 tool_use_failed o bucles infinitos de spam de respuestas.

El intento 9 utilizó GLM-4.5-Air :free, que inicialmente tuvo éxito con chistes y clima, pero una consulta de acciones AAPL explotó el contexto (~330k tokens) resultando en un error de desbordamiento 400.

Los intentos 10–11 probaron más modelos gratuitos de OpenRouter (Llama 3.1 70B, Qwen 3 8B) con el mismo problema 404 de sin-endpoints-de-herramientas.

El intento 12 utilizó Groq Llama 3.1 8B con temperatura=0.3, pero aún tenía alucinaciones de etiquetas y bucles.

El intento 13 probó Claude 3.5 Sonnet mediante proxy de OpenRouter, resultando en 402 Pago Requerido debido a un saldo de $0 en OpenRouter.

El intento 14 agregó $5 a OpenRouter, lo que autenticó el proxy y permitió respuestas básicas.

El intento 15 utilizó el mismo modelo Claude 3.5 pero encontró desbordamiento de contexto en consultas más largas.

El intento 16 cambió a Sonnet 4.6 (la última versión), pero una discrepancia en el nombre del modelo causó un error 404.

El intento 17 involucró un error tipográfico en la configuración/reinicio de incorporación que deshabilitó Telegram y borró el token.

La solución final que funcionó

El intento 18 tuvo éxito con gemini-2.5-flash mediante la API directa de Google. Esta configuración es rápida, confiable, con respuestas limpias, sin problemas de truncamiento y un uso de herramientas suficientemente bueno para las necesidades del desarrollador.

Proveedor: API directa de Google Gemini (usando clave API personal)
Modelo: gemini-2.5-flash
Costo: Actualmente gratuito bajo el nivel gratuito de Google (500 solicitudes/día con proyecto vinculado a facturación)
Telegram: Token de bot y canal habilitados con procesamiento limpio de mensajes

Por qué OpenRouter era la opción predeterminada original

El creador de Picobot eligió OpenRouter porque mantiene el binario pequeño y el código simple: un endpoint compatible con OpenAI enruta a docenas de modelos/proveedores, los usuarios cambian de modelo modificando una línea en config.json, admite nivel gratuito + BYOK, normaliza las llamadas a herramientas entre proveedores y tiene impulso comunitario como el enrutador universal para agentes de código abierto.

Sin embargo, el desarrollador encontró demasiadas limitaciones con OpenRouter: brechas en el soporte de herramientas, descontinuaciones, límites de tasa, tarifas de proxy y fallos de validación.

Compensaciones

• El nivel gratuito tiene límites (500 solicitudes por día) - exceder esto incurre en costos mínimos (~$0.01–$0.05/mensaje)
• No es completamente local/privado (modelo en la nube) pero es rápido e inteligente sin límites de hardware del teléfono
• Para cero tarifas a largo plazo, Ollama local en Mac es una opción pero más lento y menos capaz para herramientas