Процессоры AMD Ryzen AI с NPU получают поддержку LLM в Linux через Lemonade 10.0 и FastFlowLM
Что нового
NPU AMD Ryzen AI теперь могут запускать большие языковые модели на Linux через открытый сервер Lemonade версии 10.0, который включает поддержку NPU на Linux для LLM и Whisper. Это первое практическое использование NPU Ryzen AI на Linux за пределами узкоспециализированного кода.
Технические детали
Реализация построена на FastFlowLM 0.9.35 — рантайме, разработанном специально для Ryzen AI с приоритетом на NPU, который может поддерживать контекст длиной до 256 тысяч токенов на текущем поколении NPU Ryzen AI. Lemonade 10.0 также добавляет нативную интеграцию с Claude Code.
Системные требования:
- Ядро Linux 7.0 ИЛИ бэкпорты драйвера AMDXDNA к существующим стабильным версиям ядра
- Рантайм FastFlowLM 0.9.35
- Сервер Lemonade 10.0
Эта поддержка должна работать со всеми текущими SoC AMD Ryzen AI 300/400 серий. AMD разрабатывала драйвер ускорителя AMDXDNA в основном ядре Linux в течение последних двух лет, но до сих пор поддержка программного обеспечения в пользовательском пространстве была крайне ограниченной.
Контекст
Ранее собственное ПО AMD GAIA на Linux использовало Vulkan с iGPU вместо поддержки NPU. Время появления этой поддержки Linux примечательно в связи с выходом на рынок серии Ryzen AI Embedded P100 и серии Ryzen AI PRO 400, которые, вероятно, будут чаще использоваться на Linux, чем в потребительских развертываниях Windows.
Lemonade предоставляет документацию по запуску LLM на Linux с FastFlowLM и Lemonade.
📖 Read the full source: HN AI Agents
👀 Смотрите также
Synthetic объявляет о крупной реструктуризации цен со значительными изменениями лимитов тарифов.
Synthetic заменяет свои тарифы Standard и Pro на пакеты подписки по $30/месяц, предлагая 135 сообщений за 5 часов на каждый пакет. Существующие пользователи Pro увидят, что их 1250 сообщений за 5 часов сократятся до 335 сообщений за ту же цену $60/месяц.
Выпуск Claude-Code версии 2.1.97: Улучшения NO_FLICKER, исправления разрешений и обновления MCP.
Claude-Code v2.1.97 добавляет переключатель режима фокуса (Ctrl+O) в режиме NO_FLICKER, исправляет несколько проблем с разрешениями и подключениями MCP, а также улучшает доступ к сети в песочнице. В релизе устранено поведение при повторных попытках 429, проблемы с сохранением транскриптов и различные ошибки интерфейса.
Anthropic приобретает Stainless за $300M+ — теперь владеет доминирующим генератором MCP-серверов
Anthropic купила компанию Stainless, создающую SDK, за более чем $300 млн. Stainless генерирует большинство производственных MCP-серверов из спецификаций OpenAPI. Хостинговый продукт сворачивается; новые регистрации прекращены в понедельник.
Понимание взвешивания директив в LLM: почему Claude иногда игнорирует команды
Исследование на Reddit показывает, как Claude может игнорировать явные инструкции, такие как «не сопоставляй по шаблону», при генерации обзоров кода, демонстрируя, что директивы для больших языковых моделей являются взвешенным контекстом, а не ограничениями.