Implementando un Asistente de Voz Local con Qwen3 en RTX 5060 Ti
Fulloch es un asistente de voz para automatización del hogar totalmente local que aprovecha el marco Qwen3 para capacidades de ASR, LLM y TTS, todo funcionando en una RTX 5060 Ti con 16GB de VRAM. Esta configuración permite un control eficiente de la automatización del hogar sin depender de servidores externos para el procesamiento.
Detalles Clave
- Software Utilizado: Qwen3 ASR&TTS (1.7B parámetros), modelo Qwen3 4B Instruct 2507 para procesamiento del lenguaje.
- Hardware: Funciona en una RTX 5060 Ti con 16GB de VRAM, manejando un procesamiento de datos sustancial localmente.
- Clonación de Voz: Implementa un clon de voz de Morgan Freeman para la salida de texto a voz.
- Herramientas de Integración: Compatible con Spotify, control de luces Philips Hue, control climático AirTouch y recuperación de información meteorológica en línea a través del BOM de Australia.
- Alternativas para Sistemas Más Pequeños: Incluye Kokoro para TTS y Moonshine para ASR como alternativas más ligeras.
- Operación Autónoma: Como se muestra en una demostración, cuando el servidor SearXNG está inactivo, Fulloch utiliza datos internos, omitiendo consultas web externas.
Es una configuración ideal para desarrolladores y entusiastas de la automatización del hogar que buscan opciones de procesamiento robustas y locales mientras mantienen el control de sus datos y privacidad.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
Krasis LLM Runtime Muestra Mejoras de Velocidad de 8.9x en Prellenado y 4.7x en Decodificación en Comparación con Llama.cpp
El runtime Krasis LLM ahora ejecuta tanto el prellenado como la decodificación completamente en GPU con diferentes estrategias de optimización, logrando un prellenado 8.9 veces más rápido y una decodificación 4.7 veces más rápida que llama.cpp en Qwen3.5-122B con una sola GPU 5090.
NEXUS: Una Capa de Coordinación de Agentes de Código Abierto para OpenClaw
NEXUS es una capa de coordinación construida sobre OpenClaw que permite a los agentes de IA descubrirse entre sí, delegar tareas y manejar micropagos. Incluye un registro de agentes, descubrimiento basado en capacidades, puntuaciones de confianza, y utiliza el protocolo A2A de Google y el MCP de Anthropic.
Servidor de memoria MCP de código abierto con gráfico de conocimiento y funciones de aprendizaje
Un servidor MCP de código abierto escrito en Rust proporciona memoria persistente para agentes de IA con arquitectura de grafo de conocimiento, aprendizaje hebbiano y búsqueda híbrida. Tiene 7.6 MB con latencia submilisegundo y funciona con cualquier cliente compatible con MCP.
re_gent: Git para Agentes de Codificación de IA – Control de Versiones para la Actividad del Agente
re_gent es una herramienta de código abierto que proporciona control de versiones para sesiones de agentes de IA, rastreando cada llamada a herramienta, almacenando indicaciones y diferencias de archivos, y habilitando comandos como `rgt log`, `rgt blame` y `rgt rewind` (próximamente).