Las NPU de IA de AMD Ryzen obtienen soporte para LLM en Linux mediante Lemonade 10.0 y FastFlowLM
Novedades
Las NPU AMD Ryzen AI ahora pueden ejecutar modelos de lenguaje grandes en Linux a través de la versión 10.0 del servidor Lemonade de código abierto, que incluye soporte de NPU en Linux para LLMs y Whisper. Esto marca el primer uso práctico de las NPU Ryzen AI en Linux más allá de código especializado.
Detalles Técnicos
La implementación se basa en FastFlowLM 0.9.35, un entorno de ejecución diseñado específicamente para Ryzen AI que puede admitir longitudes de contexto de hasta 256k tokens con las NPU Ryzen AI de la generación actual. Lemonade 10.0 también agrega integración nativa con Claude Code.
Requisitos del sistema:
- Kernel Linux 7.0 O back-ports del controlador AMDXDNA a versiones estables del kernel existentes
- Entorno de ejecución FastFlowLM 0.9.35
- Servidor Lemonade 10.0
Este soporte debería funcionar con todos los SoC AMD Ryzen AI 300/400 series actuales. AMD ha desarrollado el controlador del acelerador AMDXDNA en el kernel principal de Linux durante los últimos dos años, pero hasta ahora el soporte de software en el espacio de usuario ha sido extremadamente limitado.
Contexto
Anteriormente, el propio software GAIA de AMD en Linux utilizaba Vulkan con iGPUs en lugar de soporte para NPU. El momento de este soporte para Linux es notable con la llegada al mercado de la serie Ryzen AI Embedded P100 y la serie Ryzen AI PRO 400, que probablemente verán más uso en Linux que en implementaciones de Windows para consumidores.
Lemonade proporciona documentación para ejecutar LLMs en Linux con FastFlowLM y Lemonade.
📖 Leer la fuente completa: HN AI Agents
👀 Ver también
El programa de Anthropic, Claude para Código Abierto, otorga acceso gratuito a Claude Max a los mantenedores que cumplan con los requisitos.
Anthropic ofrece seis meses de acceso gratuito a Claude Max a los mantenedores de proyectos de código abierto cuyos proyectos tengan 5,000+ estrellas en GitHub o 1M+ descargas mensuales en npm con commits activos en los últimos tres meses.
MCP no es más que bibliotecas reempaquetadas: déjà vu una vez más
Un debate en Reddit argumenta que el MCP de Anthropic es esencialmente un reempaquetado de bibliotecas de programación, estableciendo paralelismos con el diseño de herramientas smolagents de Hugging Face y cuestionando si construir nuevos MCP o mejorar la documentación de bibliotecas existentes.
SAP congela la mayoría de viajes y contrataciones debido al creciente costo de la IA — excepto la IA en sí
SAP suspendió la mayoría de los viajes y contrataciones debido al creciente costo de la IA, con excepciones solo para viajes y contrataciones relacionadas con IA, según un correo interno obtenido por 404 Media.
Claude ofrece crédito de uso adicional para los planes Pro, Max y Team.
Claude está otorgando a los suscriptores de los planes Pro, Max y Team un crédito de uso adicional único equivalente al precio de su suscripción. El crédito se puede utilizar en Claude, Claude Code, Claude Cowork y productos de terceros.