Бенчмаркинг последних ИИ-моделей: Восхождение экстремальных моделей

Недавний бенчмаркинг 40 новых AI-моделей выявляет значительные изменения в балансе цены и производительности. Сосредоточив внимание на Kimi k2.5 и Claude Opus 4.6, анализ демонстрирует разделение на два экстремума: 'God Mode' и 'Flash Mode', что делает модели среднего уровня неэффективными.
Ключевые детали
- Ситуация с Kimi k2.5: Попытки провести бенчмаркинг Kimi k2.5 оказались безуспешными из-за постоянных ошибок 'No Content', вероятно, из-за перегрузки. Тем не менее, Kimi-k2-Thinking показал удовлетворительные результаты для сложных задач рассуждения с ~15 TPS.
- доминирование скорости: Для приложений с чувствительностью к задержке модель Liquid LFM 2.5 оказалась самой быстрой, достигая ~359 токенов в секунду, за ней следует Ministral 3B с ~293 токенами в секунду.
- Экономическая эффективность: Ministral 3B выделяется как наиболее экономически эффективное решение, costing $0.10/1M входных токенов. Он ~17x дешевле и ~40% быстрее, чем GPT-5.2 Codex, что делает его выгодным вариантом по сравнению с более дорогими предложениями.
Рекомендуется избегать моделей среднего уровня стоимостью от $0.50 до $1.00, так как они не предлагают конкурентоспособной производительности. В зависимости от ваших потребностей, выбирайте модели более высокого ценового сегмента, такие как Opus/GPT-5 для интеллекта, или выбирайте экономичную скорость с Liquid/Mistral.
📖 Читать полный источник: r/LocalLLaMA
👀 Смотрите также

Почему один разработчик оставляет теги AI-соавторов в коммитах
Разработчик объясняет, почему он намеренно включает 'Co-Authored-by: Claude' в свои коммиты Git, сравнивая это с EXIF-данными в фотографии и обсуждая сложности хирургических изменений кода с помощью ИИ.

Сравнение производительности M5 Max и M3 Max при инференсе моделей Qwen на oMLX
Бенчмарки, сравнивающие MacBook Pro с процессорами M5 Max и M3 Max, запускающие модели Qwen 3.5 через oMLX v0.2.23, показывают, что M5 Max обеспечивает генерацию токенов в 1.4-1.7 раза быстрее и до 4 раз более быстрый префилл при длинных контекстах.

Ошибка тайм-аута входа через OAuth в Claude Code на Windows
В версии Claude Code 2.1.92 обнаружена ошибка, из-за которой пользователи Windows сталкиваются с неудачными попытками входа через OAuth с ошибкой таймаута в 15000 мс, полностью блокируя доступ к AI-ассистенту для программирования.

Клауд-Код версия 2.1.31: Основные обновления и исправления ошибок
Выпущена версия Claude-Code v2.1.31 с важными улучшениями, включая подсказки для возобновления сессий, поддержку японского IME и исправления ошибок при работе с PDF и API запросами.