Чеппер: Нативный клиент для iOS для LM Studio, Ollama и локальных моделей, совместимых с OpenAI
Chapper — это нативный клиент для iOS на SwiftUI, предназначенный для подключения к локальным моделям ИИ, работающим в LM Studio, Ollama и на любом совместимом с OpenAI сервере. Приложение полностью работает на устройстве без необходимости облачных сервисов, веб-представлений или обязательных аккаунтов.
Основные возможности
- Потоковая передача токенов в реальном времени с отображением скорости вывода
- Полный контроль семплирования: температура, top-p, top-k, min-p, TFS-Z, штрафы за повторение/присутствие/частоту
- Режим структурированного вывода/JSON-схемы
- Рендеринг Markdown с подсветкой синтаксиса в блоках кода
Поддержка моделей с рассуждениями
- Сворачиваемая панель процесса мышления встроена над каждым ответом
- Работает с Qwen3, DeepSeek-R1 и любыми моделями, использующими теги <think>
- Пользовательский парсер тегов <think> для вывода моделей с рассуждениями
Управление моделями
- Управление моделями в приложении: просмотр, загрузка, настройка длины контекста
- Поддержка flash attention
- Выгрузка KV-кэша на GPU
Функции диалогов
- Персонажи с постоянными системными промптами для каждого чата
- Полнотекстовый поиск по всем диалогам + закреплённые чаты
- Система памяти, автоматически внедряющая долгосрочный контекст
- Черновик для рабочих заметок во время общения
Варианты вывода
- Экспорт в 7 форматах: PDF, HTML, Markdown, JSON, CSV, XML, TXT
- Преобразование текста в речь в трёх режимах: родные голоса iOS, локальная модель Kokoro на устройстве (экспериментальная) или пользовательский TTS-сервер
- Поддержка воспроизведения в фоновом режиме
Техническая реализация
- Нативная асинхронная потоковая передача через SSE
- Интеграция инструментов MCP для веб-поиска, доступа к файлам, получения URL
- Синхронизация с iCloud (опционально)
- Панель аналитики на устройстве
- Поддержка 12 языков
- Пользовательские тактильные отклики с возможностью отключения
Цены и доступность
Бесплатная + Pro-версия с единоразовой покупкой, без подписки. Основной чат бесплатный. Pro разблокирует расширенное семплирование, неограниченную историю, все форматы экспорта, пользовательские иконки и неограниченное количество персонажей. Работает на iPhone и iPad.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
ClawCut: Python-прокси, который делает небольшие локальные LLM пригодными для использования с OpenClaw
ClawCut — это прокси-сервер на Python Flask, который решает распространённые проблемы при подключении локальных моделей 7B/14B к OpenClaw, включая отравление контекста, бесконечные циклы и сбои в выводе cron-задач. Он реализует динамическую амнезию во время вызовов инструментов и автоматическую доставку для запланированных задач.
Протокол AVP позволяет агентам LLM обмениваться кэшем ключей и значений вместо текста для повышения эффективности использования токенов.
AVP (Agent Vector Protocol) позволяет агентам LLM передавать KV-кэш напрямую между собой вместо текста, сокращая обработку токенов на 73-78% и обеспечивая ускорение в 2-4 раза для моделей Qwen, Llama и DeepSeek. Протокол работает с коннекторами HuggingFace и vLLM и доступен в виде пакета Python.
Calmkeep: Внешний слой непрерывности для противодействия дрейфу LLM в длинных сессиях
Calmkeep — это внешний слой непрерывности, предназначенный для противодействия дрейфу LLM в длинных сессиях. В тесте на 25 шагов при сборке бэкенда он показал 85% целостности против 60% у стандартного Claude, а в юридической сессии — 100% против 50%.
Knowledge Raven: Кросс-модельная платформа базы знаний, созданная с помощью Claude Code
Knowledge Raven — это платформа базы знаний, которая позволяет любому LLM, совместимому с MCP, искать и цитировать корпоративные документы. Вся платформа была создана с помощью Claude Code одним основателем и включает бэкенд на Python/FastAPI, слой инструментов MCP и агентный RAG-конвейер.