Radio Libre Gemma: Desastre AI vía Meshtastic y LLM Local

Un usuario de Reddit (u/bravoitaliano) compartió un proyecto llamado Radio Free Gemma que ejecuta un LLM local en una red mallada Meshtastic para escenarios de desastre. La configuración usa el modelo Gemma 4:26B, una biblioteca RAG básica con incrustaciones vectoriales y un servidor MQTT en Docker, todo integrado en OpenClaw como subagente. El corpus se construye a partir de protocolos públicos (CDC, defensa civil, etc.) y la personalidad del agente se diseña como un operador de radio de emergencia. Todo el stack funciona con respaldo de batería: cuando la electricidad y el servicio celular fallan, los usuarios aún pueden contactar a la IA a través de nodos Meshtastic.

Detalles clave de la fuente:

• Modelo: Gemma 4:26B ejecutándose localmente
• Red: Meshtastic (red de radio mallada, no celular)
• Conectividad: Servidor MQTT en un contenedor Docker en el clúster principal, conectando Meshtastic y OpenClaw
• RAG: Biblioteca RAG personalizada con incrustaciones vectoriales, curada por modelos frontera
• Corpus: CDC, defensa civil y otros protocolos públicos de emergencia
• Agente: Subagente OpenClaw; archivos Soul/agent vinculados a la personalidad de operador de radio de emergencia
• Energía: Todo el hardware con respaldo de batería: sigue operativo durante cortes
• Limitación: El autor señala que no es perfecto, pero confía en él para triaje básico e información vital

El proyecto no está en GitHub, pero el autor está abierto a compartir detalles y responder preguntas. Es una demostración práctica del uso de un LLM local en escenarios sin comunicaciones, aprovechando redes malladas fuera de la red eléctrica.