오프 그리드: 오프라인 AI 애플리케이션을 위한 휴대폰 하드웨어 활용

오프 그리드는 클라우드 서비스에 의존하지 않고 스마트폰의 강력한 GPU를 활용하여 오프라인에서 AI 작업을 수행하도록 설계된 오픈 소스 애플리케이션입니다. 여기에는 GGUF 모델을 사용하여 초당 15-30 토큰으로 텍스트를 생성하는 llama.cpp, 스냅드래곤 NPU에서 NPU 가속으로 실행되는 Stable Diffusion으로 5-10초마다 이미지를 생성하는 기능, Whisper를 사용한 음성 기록, 그리고 SmolVLM 및 Qwen3-VL과 같은 모델을 사용한 비전 AI가 포함됩니다.

이 앱은 완전히 오프라인으로 작동하여 데이터가 기기를 벗어나지 않도록 보장합니다. 이는 인터넷 접속이 불가능한 상황, 예를 들어 비행 중, 검열이 있는 국가, 또는 병원과 같이 규정이 엄격한 환경에서 특히 중요합니다. 안드로이드의 경우, 이 앱은 GitHub에서 APK로 제공되며, iOS 사용자는 소스 코드에서 앱을 빌드해야 합니다.

오프 그리드를 실행하려면, 안드로이드 사용자는 npm install을 실행한 후 cd android && ./gradlew clean && cd ..와 npm run android를 실행해야 합니다. iOS 설정은 cd ios && pod install && cd ..와 npm run ios가 필요합니다. iOS의 경우 Node.js 20+와 Xcode 15+를, 안드로이드의 경우 JDK 17과 Android SDK 34가 설치되어 있는지 확인하세요. 이러한 종류의 오프라인 기능은 데이터 개인정보 보호에 관심이 있는 개발자와 인터넷 제한이 있거나 데이터 민감한 환경에서 작업하는 사람들에게 특히 유용합니다.