Gemma4 26B-A4B обеспечивает быструю локальную работу с поддержкой веб-поиска и изображений.
Производительность и возможности Gemma4 26B-A4B
Модель gemma-4-26B-A4B демонстрирует высокую производительность для локального использования, при этом источник сообщает о скорости примерно 145 токенов в секунду при работе на видеокарте RTX 4090. Такое сочетание возможностей и скорости делает её подходящей для отзывчивых локальных приложений.
Ключевые особенности из источника
- Модель: gemma-4-26B-A4B
- Производительность: ~145 т/с (токенов в секунду) на RTX 4090
- Интеграция: Поддержка веб-поиска MCP (Model Context Protocol)
- Мультимодальность: Включена поддержка изображений
- Платформы: Настройка описана для использования на Mac и iPhone
В источнике упоминается, что опыт использования можно улучшить с помощью простых приёмов и короткого системного промпта, хотя конкретные детали этих оптимизаций не приводятся в отрывке. Автор задокументировал полный процесс настройки в блоге, который охватывает конфигурацию и использование на нескольких устройствах.
Для разработчиков, заинтересованных в реализации этой настройки, полные детали конфигурации, системные промпты и методы оптимизации доступны в упомянутом блоге по указанной ссылке.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
俄语翻译：在无人值守的隔夜会话中运行克劳德代码的模式
Трехкомпонентная структура — цепной исполнитель, супервизор и единый контракт передачи — решает проблему дрейфа обратной связи в многозадачных автономных сессиях Claude Code.
Навык Agent Times для ClawHub добавляет запросы новостей в реальном времени, погоды и цен на токены.
Новый навык ClawHub под названием Agent Times позволяет ИИ-агентам отвечать на запросы в реальном времени о новостях, погоде и ценах на криптовалюты. Установка осуществляется через npx clawhub install agenttimes, и он предоставляет доступ к более чем 228 тысячам статей из 3 576 источников с оценкой тональности и извлечением сущностей.
Шарик, который лопается, когда Клод заканчивает: физический интерфейс агента с whisper.cpp
Воздушный шар на рабочем столе надувается, когда вы произносите задачу, а затем парит по экрану, пока Claude Code выполняет агента. Расшифровка работает локально через whisper.cpp, агенты используют ваш существующий логин Claude Code. Открытый исходный код.
Плагин Claude Code анализирует потери токенов и аномалии локально.
Разработчик создал плагин Claude Code, который диагностирует потерю токенов, обнаруживая шесть типов аномалий из локальных данных сессий. Инструмент проанализировал 8 392 сессии и обнаружил 1 015 аномалий, причём ExcessiveToolUse оказался наиболее распространённым.