Cerebras lanza modelos Step-3.5-Flash-REAP con una reducción de memoria del 40%.
Qué es esto
Cerebras ha lanzado los modelos Step-3.5-Flash-REAP, que son variantes comprimidas y eficientes en memoria de sus modelos más grandes. Estas son versiones más pequeñas diseñadas para lo que la fuente llama "configuraciones básicas", aunque el modelo de 121B parámetros aún requiere recursos significativos.
Detalles clave de la fuente
Los modelos están disponibles en Hugging Face:
El modelo Step-3.5-Flash-REAP-121B-A11B se comprime de 196B a 121B parámetros, lo que representa una reducción de memoria del 40% manteniendo un rendimiento casi idéntico al modelo completo.
La compresión utiliza REAP (Router-weighted Expert Activation Pruning), descrito como "un novedoso método de poda de expertos que elimina selectivamente expertos redundantes mientras preserva el control independiente del enrutador sobre los expertos restantes".
Características y capacidades
- Rendimiento casi sin pérdidas: Mantiene una precisión casi idéntica en generación de código, codificación agentiva y tareas de llamadas a funciones en comparación con el modelo completo de 196B
- Reducción de memoria del 40%: Comprimido de 196B a 121B parámetros, reduciendo costos de implementación y requisitos de memoria
- Capacidades preservadas: Conserva todas las funcionalidades principales incluyendo generación de código, matemáticas y razonamiento, y llamadas a herramientas
- Compatibilidad inmediata: Funciona con vLLM estándar - no se requieren modificaciones de fuente o parches personalizados
- Optimizado para uso real: Particularmente efectivo para entornos con recursos limitados, implementaciones locales e investigación académica
La fuente señala que aunque estas son "versiones más pequeñas", el modelo de 121B aún requiere una configuración bastante potente a pesar de la compresión.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
Diseñando un equipo de agentes: Cómo Google Antigravity estructura subagentes para la generación autónoma de código
Google Antigravity revela su arquitectura de subagentes para codificación autónoma: siete tipos de agentes especializados, desde el Centinela (recepcionista) hasta el Auditor (verificador de autenticidad). Relevante para el diseño de subagentes de OpenClaw.
Claude Code v2.1.181: Sintaxis /config, Apple Events en Sandbox, Correcciones de Streaming
Claude Code v2.1.181 añade la sintaxis /config key=value para configuración inline, sandbox.allowAppleEvents en macOS y el archivo CLAUDE_CLIENT_PRESENCE_FILE. También actualiza Bun a 1.4, corrige el prompt caching en URLs de API personalizadas, problemas de escritura en unidades de red y múltiples regresiones de inicio.
NVIDIA DGX Spark Community lanza Spark Arena para benchmarks reproducibles de LLM.
La comunidad NVIDIA DGX Spark ha lanzado Spark Arena, una tabla de clasificación reproducible para el rendimiento de LLM de pesos abiertos utilizando herramientas y metodología estandarizadas, con los mejores resultados actuales que incluyen gpt-oss-120b y Qwen3-Coder-Next.
Anthropic lanza una herramienta de IA para analizar bases de código COBOL, las acciones de IBM caen un 13%.
Anthropic ha lanzado una herramienta de IA que analiza bases de código COBOL para señalar riesgos y reducir costos de modernización. El anuncio provocó una caída del 13% en las acciones de IBM, ya que el mercado lo percibió como una amenaza para el negocio de gestión de sistemas heredados de IBM.