Las NPU de IA de AMD Ryzen obtienen soporte para LLM en Linux mediante Lemonade 10.0 y FastFlowLM
Novedades
Las NPU AMD Ryzen AI ahora pueden ejecutar modelos de lenguaje grandes en Linux a través de la versión 10.0 del servidor Lemonade de código abierto, que incluye soporte de NPU en Linux para LLMs y Whisper. Esto marca el primer uso práctico de las NPU Ryzen AI en Linux más allá de código especializado.
Detalles Técnicos
La implementación se basa en FastFlowLM 0.9.35, un entorno de ejecución diseñado específicamente para Ryzen AI que puede admitir longitudes de contexto de hasta 256k tokens con las NPU Ryzen AI de la generación actual. Lemonade 10.0 también agrega integración nativa con Claude Code.
Requisitos del sistema:
- Kernel Linux 7.0 O back-ports del controlador AMDXDNA a versiones estables del kernel existentes
- Entorno de ejecución FastFlowLM 0.9.35
- Servidor Lemonade 10.0
Este soporte debería funcionar con todos los SoC AMD Ryzen AI 300/400 series actuales. AMD ha desarrollado el controlador del acelerador AMDXDNA en el kernel principal de Linux durante los últimos dos años, pero hasta ahora el soporte de software en el espacio de usuario ha sido extremadamente limitado.
Contexto
Anteriormente, el propio software GAIA de AMD en Linux utilizaba Vulkan con iGPUs en lugar de soporte para NPU. El momento de este soporte para Linux es notable con la llegada al mercado de la serie Ryzen AI Embedded P100 y la serie Ryzen AI PRO 400, que probablemente verán más uso en Linux que en implementaciones de Windows para consumidores.
Lemonade proporciona documentación para ejecutar LLMs en Linux con FastFlowLM y Lemonade.
📖 Leer la fuente completa: HN AI Agents
👀 Ver también
Lo que falta en la narrativa "agentiva": un rol de usuario agente bien definido
Mark Nottingham sostiene que los agentes de IA actuales carecen de un rol claro de agente de usuario, creando una brecha de confianza entre lo que los usuarios esperan y lo que los agentes realmente hacen.
Claude Cowork para Windows ARM64 Lanzado con Verificador de Compatibilidad
Anthropic ha lanzado Claude Cowork para dispositivos Windows ARM64, requiriendo Windows 11 Pro con Hyper-V y virtualización habilitada. La empresa proporciona una herramienta de verificación de compatibilidad EXE para confirmar los requisitos del sistema.
Modos de Falla de la IA Agéntica y Andamiaje de Desarrollo
Los sistemas de IA agentes fallan en producción debido a la deriva de alineación, la pérdida de contexto entre transferencias, las violaciones de límites y el colapso de coordinación. La fuente propone un enfoque de 'andamiaje de desarrollo' con cinco componentes: monitoreo de coherencia, reparación de coordinación, conciencia de consentimiento y límites, continuidad relacional y gobernanza adaptativa.
Desbloqueando Nuevas Posibilidades: Usando Claude Max con Opus 4.6 como API
Descubre un enfoque creativo para utilizar las suscripciones de Claude Max como una API, compatible con Opus 4.6, tal como lo han explorado los entusiastas tecnológicos de la comunidad.