Модель Qwen3.5-9B-Claude-4.6-Opus-Uncensored-v2 выпущена с конфигурацией для LM Studio

Детали модели и доступность

Модель Qwen3.5-9B-Claude-4.6-Opus-Uncensored-v2-Q4_K_M-GGUF теперь доступна на HuggingFace. Эта модель была создана путём слияния двух существующих моделей: Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF от Jackrong и Qwen3.5-9B-Uncensored-HauhauCS-Aggressive от HauhauCS.

Слияние сохраняет все обучающие данные и поддерживает точность на архитектуре Qwen 3.5 9B с использованием точности Float32 в процессе объединения. Модель обучена на наборе данных Claude Opus 4.6, доступном по адресу https://huggingface.co/datasets/Roman1111111/claude-opus-4.6-10000x.

Рекомендуемая конфигурация

Для наилучшей производительности в LM Studio 0.4.7 (сборка 4) используйте следующие настройки:

• Системный промпт: https://pastebin.com/pU25DVnB
• Температура: 0.7
• Выборка Top K: 20
• Штраф за повторение: (отключён) или 1.0
• Штраф за присутствие: 1.5
• Выборка Top P: 0.8
• Выборка Min P: 0.0
• Сид: 3407

Производительность и оборудование

На RTX 3060 модель достигает 42 токенов в секунду в LM Studio. Создатель отмечает, что она может работать ещё быстрее на llama-server. Модель была создана в ответ на запросы пользователей Reddit и HuggingFace, которые хотели получить большой контекст в нецензурированном умном локальном ИИ без необходимости в мощных GPU.

Модель доступна по адресу: https://huggingface.co/LuffyTheFox/Qwen3.5-9B-Claude-4.6-Opus-Uncensored-v2-GGUF