Chapper: LM Studio, Ollama 및 OpenAI 호환 로컬 모델을 위한 네이티브 iOS 클라이언트
Chapper는 LM Studio, Ollama 및 모든 OpenAI 호환 서버에서 실행되는 로컬 AI 모델에 연결하기 위한 네이티브 SwiftUI iOS 클라이언트입니다. 이 앱은 클라우드 요구 사항, 웹 뷰 또는 필수 계정 없이 완전히 기기 내에서 실행됩니다.
핵심 기능
- 실시간 추론 속도 표시와 함께 실시간 토큰 스트리밍
- 완전한 샘플링 제어: 온도, top-p, top-k, min-p, TFS-Z, 반복/존재/빈도 패널티
- 구조화된 출력/JSON 스키마 모드
- 구문 강조 코드 블록이 포함된 마크다운 렌더링
추론 모델 지원
- 각 응답 위에 인라인으로 접을 수 있는 사고 과정 패널
- Qwen3, DeepSeek-R1 및 <think> 태그를 사용하는 모든 모델과 호환
- 추론 모델 출력을 위한 맞춤형 <think> 태그 파서
모델 관리
- 앱 내 모델 관리: 탐색, 로드, 컨텍스트 길이 구성
- 플래시 어텐션 지원
- GPU KV 캐시 오프로드
대화 기능
- 채팅별 지속적인 시스템 프롬프트가 있는 페르소나
- 모든 대화 + 고정된 채팅에 대한 전체 텍스트 검색
- 장기 컨텍스트를 자동으로 주입하는 메모리 시스템
- 채팅 중 작업 메모를 위한 스크래치패드
출력 옵션
- 7가지 형식으로 내보내기: PDF, HTML, Markdown, JSON, CSV, XML, TXT
- 세 가지 모드의 TTS: 네이티브 iOS 음성, 로컬 기기 내 Kokoro 모델(실험적), 또는 맞춤형 TTS 서버
- 백그라운드 재생 지원
기술 구현
- SSE를 통한 네이티브 비동기 스트리밍
- 웹 검색, 파일 액세스, URL 가져오기를 위한 MCP 도구 통합
- iCloud 동기화(선택 사항)
- 기기 내 분석 대시보드
- 12개 언어 지원
- 토글 옵션이 있는 맞춤형 햅틱
가격 및 이용 가능성
무료 + 일회성 구매 Pro 모델, 구독 없음. 핵심 채팅은 무료입니다. Pro는 고급 샘플링, 무제한 기록, 모든 내보내기 형식, 맞춤형 아이콘 및 무제한 페르소나를 잠금 해제합니다. iPhone 및 iPad에서 작동합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
ToolLoop: 모든 LLM에 적용 가능한 Claude 스타일 도구를 위한 오픈소스 프레임워크
ToolLoop는 LiteLLM을 통해 모든 LLM과 작동하는 파일 작업, 코드 검색, 셸 접근 및 하위 에이전트를 위한 11가지 도구를 갖춘 오픈소스 Python 프레임워크입니다. 2,700줄의 이 프레임워크는 대화 중간에 모델을 전환하면서도 공유 컨텍스트를 유지할 수 있습니다.
소나리: AI 기반 생산 알림 분류 및 해결
Sonarly는 프로덕션 환경에서 알림을 효과적으로 처리하고 해결하기 위해 설계된 AI 에이전트입니다. 이는 중복을 그룹화하고 근본 원인 분석을 수행하여 알림을 분류함으로써 노이즈를 줄이고 중요한 문제에 집중합니다.
Qwen3.6:27b + 맞춤형 Go 에이전트: Claude Code의 로컬 대안
한 개발자가 RTX 6000(96GB)에서 Q8 양자화된 Qwen3.6:27b를 테스트하고, 일상적인 코딩에 Claude Code와 비슷하다고 주장하며 플러그인이나 MCP 없는 최소한의 Go 에이전트를 오픈소스로 공개했습니다.
순수 C 언어로 음성 인식을 위한 Mistral Voxtral Realtime 4B 탐구하기
Voxtral.c는 Mistral AI의 Voxtral Realtime 4B 음성-텍스트 모델을 순수 C로 구현하여 C 표준 라이브러리 외의 의존성을 제거합니다.