Configuración Local Multi-Agente con vLLM, Claude Code y gpt-oss-120b en Linux
Un desarrollador compartió su experiencia creando una configuración de codificación multiagente paralela completamente local en Linux después de cambiar desde Windows. La configuración utiliza vLLM para inferencia paralela, Claude Code para orquestación de agentes, y un modelo de lenguaje grande para tareas de codificación.
Componentes de la Configuración
- Contenedor Docker de vLLM: Utilizado para despliegue fácil e inferencia paralela
- Claude Code: Maneja la vibecodificación y la orquestación de Equipos de Agentes, configurado para apuntar al endpoint localhost de vLLM en lugar de proveedores en la nube
- gpt-oss:120b: Sirve como el agente de codificación
- RTX Pro 6000 Blackwell MaxQ: GPU principal para la carga de trabajo
- Ubuntu de arranque dual: Configuración del sistema operativo
Mejoras de Rendimiento y Flujo de Trabajo
El desarrollador anteriormente utilizaba Ollama y LM Studio pero encontró que procesaban solicitudes secuencialmente y experimentaban ralentizaciones después de múltiples turnos de mensajes y llamadas a herramientas. Con vLLM, lograron procesamiento paralelo que "turboalimentó" su experiencia.
En pruebas, la configuración manejó 4 agentes colaborando simultáneamente como se muestra en una demostración en video, con la GPU capaz de soportar 8 agentes en paralelo continuamente. El único problema observado fue la reducción del rendimiento, que varía dependiendo del agente.
Tareas a escala de Equipo de Agentes que anteriormente tomaban horas para completarse secuencialmente ahora pueden hacerse en aproximadamente 30 minutos, dependiendo del alcance del proyecto. El desarrollador estima que agregar una segunda GPU MaxQ podría potencialmente escalar el sistema para manejar decenas de agentes concurrentemente.
Este enfoque paralelo permite vibecodificar múltiples proyectos local y concurrentemente, aunque puede introducir cierta latencia aumentada en ciertos escenarios. El desarrollador encontró esta compensación preferible a completar proyectos un agente a la vez.
📖 Read the full source: r/LocalLLaMA
👀 Ver también
Jetson Orin Nano Super: Servidor OpenClaw por $20 al año
Un miembro de la comunidad comparte su configuración OpenClaw de bajo consumo ejecutándose 24/7 en hardware NVIDIA por solo $20/año en electricidad.
Lecciones de Ejecutar 14 Agentes de IA en Producción: Brechas Organizacionales, No Errores Técnicos
Una agencia de marketing digital que opera con 14 agentes de IA en sus operaciones diarias descubrió que, cuando los agentes fallan, el problema casi nunca es el agente en sí, sino el entorno organizacional. Desarrollaron un Sistema Operativo Organizacional (OOS) y una herramienta llamada OTP para identificar brechas estructurales, mejorando su Puntuación de Coordinación de 68 a 91 sobre 100.
Usuario de Reddit ejecuta 25+ agentes de IA programados como personas personales en Mac: ¿Esto es útil o solo complejidad?
Un desarrollador comparte su configuración personal de IA con más de 25 agentes programados en un Mac, organizados en cuatro personajes (Esposa, Hija, Hijo y un monitor) que automatizan trabajo, proyectos de código abierto, pasatiempos y PR de GitHub — y pregunta a la comunidad si es genuinamente útil o complejidad por la complejidad misma.
Construyendo una Aplicación de Análisis de Béisbol Fantasía con Claude Code: La Experiencia de un Estudiante de Derecho
Un estudiante de derecho con un título en ciencias de la computación de 2017 desarrolló Ball Knower, una aplicación de análisis de béisbol fantástico para iOS, utilizando Claude Code para la implementación mientras manejaba todas las decisiones de producto y dominio. La aplicación incluye 1,313 perfiles de jugadores de la MLB, selecciones diarias de lanzadores para streaming y clasificaciones de dinastías, con un backend que ejecuta 30 trabajos cron extrayendo datos de 9 fuentes.