라디오 프리 젬마: 메스타스틱과 로컬 LLM을 통한 재난 AI

Reddit 사용자(u/bravoitaliano)가 Radio Free Gemma라는 프로젝트를 공유했습니다. 이 프로젝트는 재난 상황을 위해 Meshtastic 메시 네트워크에서 로컬 LLM을 실행합니다. 설정에는 Gemma 4:26B 모델, 벡터 임베딩을 사용하는 기본 RAG 라이브러리, Docker의 MQTT 서버가 포함되며, 모두 OpenClaw의 하위 에이전트로 연결됩니다. 말뭉치는 공개된 프로토콜(CDC, 민방위 등)로 구축되었고, 에이전트의 성격은 비상 라디오 운영자 스타일로 설정되었습니다. 전체 스택은 배터리 백업으로 작동하며, 전원과 셀룰러 서비스가 중단되어도 사용자는 Meshtastic 노드를 통해 AI에 접근할 수 있습니다.

출처의 주요 세부 사항:

• 모델: 로컬에서 실행되는 Gemma 4:26B
• 네트워크: Meshtastic (메시 라디오 네트워크, 셀룰러 아님)
• 연결: 메인 클러스터의 Docker 컨테이너에 있는 MQTT 서버가 Meshtastic과 OpenClaw를 연결
• RAG: 프론티어 모델이 선별한 벡터 임베딩이 포함된 맞춤형 RAG 라이브러리
• 말뭉치: CDC, 민방위 및 기타 공개 비상 프로토콜
• 에이전트: OpenClaw 하위 에이전트; 영혼/에이전트 마크다운이 비상 라디오 운영자 성격에 맞게 설정됨
• 전원: 모든 하드웨어가 배터리 백업으로 작동 — 정전 중에도 운영 가능
• 한계: 작성자는 완벽하지는 않지만 기본적인 분류 및 생명 구조 정보에는 신뢰할 만하다고 언급

이 프로젝트는 GitHub에 있지 않지만, 작성자는 세부 사항을 공유하고 질문에 답변할 의향이 있습니다. 이는 통신이 두절된 상황에서 로컬 LLM을 사용하여 그리드 외부 메시 네트워킹을 활용하는 실용적인 데모입니다.