Revisión del Rendimiento de Omnicoder-9B: Velocidad frente a Problemas de Llamada a Herramientas
Descripción Técnica
Omnicoder-9B es un modelo específico para codificación desarrollado por Tesslate, basado en la arquitectura Qwen 3.5. Está ajustado sobre Qwen3.5 9B utilizando salidas de múltiples modelos incluyendo Opus 4.6, GPT 5.4, GPT 5.3 Codex y Gemini 3.1 Pro.
Características de Rendimiento
El modelo demuestra un rendimiento sólido en hardware de gama media. Con 12GB de VRAM, los usuarios reportan generación consistente de tokens a 15 tokens/segundo incluso con un tamaño de contexto establecido en 100k. El procesamiento de prompts es notablemente rápido a aproximadamente 265 tokens/segundo. El modelo funciona sin bloquear sistemas o causar degradación del rendimiento.
Limitaciones y Problemas
A pesar de las ventajas de velocidad, Omnicoder-9B muestra varias limitaciones en escenarios prácticos de codificación:
- Falló al generar un clon completo de Super Mario en un archivo HTML independiente con un prompt de una sola toma
- Experimentó fallos en llamadas a herramientas con servidores MCP, generando errores MCP durante la obtención de datos
- Problemas al ejecutar llamadas a herramientas de escritura desde Claude Code, aunque esto puede involucrar factores de compatibilidad
Pruebas de Integración en IDE
Las pruebas en entornos de desarrollo revelaron resultados mixtos:
- En LM Studio con Roo Code: Ocurrieron desconexiones a medida que el tamaño de tokens aumentaba a 4k, aunque esto parece ser un problema de integración más que específico del modelo
- El modelo actualizó o escribió pequeños scripts con tamaños de tokens entre 2-3k exitosamente
- Las solicitudes API fallaron para tokens por encima de 4k sin mensajes de error
- En Claude Code: La generación de tokens se sintió más lenta en comparación con Roo Code, y el modelo falló al ejecutar llamadas a herramientas de escritura después de generar salida
El usuario señala que Roo Code ha sido la extensión más efectiva para LLMs locales entre Continue y otras opciones probadas.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
HolyClaude: Contenedor de Docker para Claude Code con Interfaz de Usuario de Navegador y Chromium sin Interfaz Gráfica
HolyClaude es un contenedor Docker de código abierto que empaqueta la CLI de Claude Code con una interfaz de usuario basada en navegador, Chromium sin interfaz gráfica y herramientas adicionales de codificación con IA. La configuración solo requiere ejecutar docker compose up y proporciona acceso en localhost:3001.
Culpa: Motor de Reproducción Determinista de Código Abierto para Depuración de Agentes de IA
Culpa es una herramienta de código abierto que registra sesiones de agentes LLM con contexto de ejecución completo, permitiendo reproducción determinista utilizando respuestas grabadas como stubs en lugar de acceder a APIs reales. Funciona con las APIs de Anthropic y OpenAI mediante modo proxy o SDK de Python.
Puntos de Referencia de Rendimiento de LLM Local en Mac Mini con OpenClaw y LM Studio
Un usuario de Reddit publicó cifras de rendimiento para ejecutar el modelo Unsloth gpt-oss-20b-Q4_K_S.gguf localmente en un Mac Mini con 32 GB de RAM, logrando 34 tokens/segundo con un tiempo de 0.7 segundos para el primer token usando OpenClaw 2026.3.8 y LM Studio 0.4.6+1.
CLI freddy: Integrar Garmin y otros wearables en OpenClaw a través de MCP
freddy CLI ahora soporta Garmin junto a Polar, Oura, Withings, Suunto, Intervals.icu y Hevy. Ejecuta `freddy connect garmin` y luego consulta sueño, HRV, Body Battery y entrenamientos desde cualquier agente compatible con MCP.