Radio Free Gemma: MeshtasticとローカルLLMによる災害AI

Redditユーザー（u/bravoitaliano）が、災害シナリオ向けにMeshtasticメッシュネットワーク上でローカルLLMを実行するプロジェクトRadio Free Gemmaを公開しました。このセットアップでは、Gemma 4:26Bモデル、ベクトル埋め込みを使用した基本的なRAGライブラリ、Docker上のMQTTサーバーを使用し、すべてをOpenClawのサブエージェントとして統合しています。コーパスは公開プロトコル（CDC、防災など）から構築され、エージェントの性格は緊急無線オペレーターを模したものになっています。スタック全体はバッテリーバックアップで動作し、電力や携帯サービスがダウンしても、ユーザーはMeshtasticノード経由でAIにアクセスできます。

ソースからの主な詳細：

• モデル：ローカル実行のGemma 4:26B
• ネットワーク：Meshtastic（携帯電話ではなくメッシュ無線ネットワーク）
• 接続：メインクラスタ上のDockerコンテナ内のMQTTサーバーがMeshtasticとOpenClawをブリッジ
• RAG：フロンティアモデルによりキュレーションされたベクトル埋め込みを使用したカスタムRAGライブラリ
• コーパス：CDC、防災、その他の公開緊急プロトコル
• エージェント：OpenClawサブエージェント。緊急無線オペレーターの性格を反映したソウル/エージェントマークダウン
• 電源：すべてのハードウェアはバッテリーバックアップで動作。停電時も稼働可能
• 制限：著者は完璧ではないと認めつつ、基本的なトリアージや救命情報には信頼できるとしています

このプロジェクトはGitHubには公開されていませんが、著者は詳細を共有し質問に答えることに前向きです。これは、オフグリッドメッシュネットワーキングを活用し、通信が途絶えた状況でローカルLLMを使用する実用的なデモンストレーションです。