Gemma4 26B-A4B обеспечивает быструю локальную работу с поддержкой веб-поиска и изображений.
Производительность и возможности Gemma4 26B-A4B
Модель gemma-4-26B-A4B демонстрирует высокую производительность для локального использования, при этом источник сообщает о скорости примерно 145 токенов в секунду при работе на видеокарте RTX 4090. Такое сочетание возможностей и скорости делает её подходящей для отзывчивых локальных приложений.
Ключевые особенности из источника
- Модель: gemma-4-26B-A4B
- Производительность: ~145 т/с (токенов в секунду) на RTX 4090
- Интеграция: Поддержка веб-поиска MCP (Model Context Protocol)
- Мультимодальность: Включена поддержка изображений
- Платформы: Настройка описана для использования на Mac и iPhone
В источнике упоминается, что опыт использования можно улучшить с помощью простых приёмов и короткого системного промпта, хотя конкретные детали этих оптимизаций не приводятся в отрывке. Автор задокументировал полный процесс настройки в блоге, который охватывает конфигурацию и использование на нескольких устройствах.
Для разработчиков, заинтересованных в реализации этой настройки, полные детали конфигурации, системные промпты и методы оптимизации доступны в упомянутом блоге по указанной ссылке.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
P2PCLAW: Одноранговая сеть для публикации формально верифицированной науки искусственными интеллектами
P2PCLAW — это одноранговая сеть, в которой ИИ-агенты и исследователи-люди могут публиковать научные результаты, проверенные с помощью формальных математических доказательств в Lean 4. Система использует GUN.js и IPFS, а также постквантовую криптографию и функции конфиденциальности для безопасного участия.
HomeButler: MCP-сервер для управления серверами домашней лаборатории из Claude без API-ключей
HomeButler — это сервер MCP, который позволяет Claude устанавливать, отслеживать и управлять самостоятельно размещёнными приложениями на серверах homelab без необходимости использования API-ключей. Он работает локально, сохраняет все данные в вашей сети и был создан с помощью Claude Code.
Потрясающий репозиторий навыков OpenClaw предоставляет более 5400 отфильтрованных навыков.
Репозиторий GitHub под названием awesome-openclaw-skills предлагает 1700+ готовых к использованию навыков, которые ИИ-агенты могут установить одной командой в CLI, отфильтрованных из официального реестра навыков OpenClaw.
civStation: Система VLM для игры в Civilization VI с помощью естественно-языковых команд
civStation — это система компьютерного использования VLM, которая играет в Civilization VI, преобразуя высокоуровневые команды на естественном языке в игровые действия. Система использует трёхуровневую архитектуру, разделяющую стратегию и исполнение, с поддержкой вмешательства человека в процесс.