AMD 라이젠 AI NPU, 레모네이드 10.0 및 패스트플로우LM을 통해 리눅스 LLM 지원 획득
새로운 소식
AMD Ryzen AI NPU가 이제 오픈소스 Lemonade 서버 버전 10.0을 통해 Linux에서 대규모 언어 모델을 실행할 수 있게 되었으며, 이 버전은 LLM과 Whisper에 대한 Linux NPU 지원을 포함합니다. 이는 니치 코드를 넘어 Linux에서 Ryzen AI NPU의 첫 번째 실용적인 사용을 의미합니다.
기술적 세부사항
이 구현은 현재 세대 Ryzen AI NPU로 최대 256k 토큰의 컨텍스트 길이를 지원할 수 있는 Ryzen AI 전용으로 구축된 NPU 우선 런타임인 FastFlowLM 0.9.35를 기반으로 합니다. Lemonade 10.0은 또한 Claude Code와의 네이티브 통합을 추가합니다.
시스템 요구사항:
- Linux 7.0 커널 또는 기존 안정적인 커널 버전에 대한 AMDXDNA 드라이버 백포트
- FastFlowLM 0.9.35 런타임
- Lemonade 10.0 서버
이 지원은 모든 현재 AMD Ryzen AI 300/400 시리즈 SoC와 호환되어야 합니다. AMD는 지난 2년 동안 메인라인 Linux 커널에서 AMDXDNA 가속기 드라이버를 개발해 왔지만, 지금까지 사용자 공간 소프트웨어 지원은 극히 제한적이었습니다.
배경
이전에는 AMD 자체의 Linux용 GAIA 소프트웨어가 NPU 지원 대신 iGPU와 함께 Vulkan을 사용했습니다. 이 Linux 지원 시기는 Ryzen AI Embedded P100 시리즈가 시장에 출시되고 Ryzen AI PRO 400 시리즈가 소비자 Windows 배포보다 더 많은 Linux 사용을 보게 될 가능성이 있는 시점에 주목할 만합니다.
Lemonade는 FastFlowLM과 Lemonade를 사용하여 Linux에서 LLM을 실행하는 방법에 대한 문서를 제공합니다.
📖 전체 원문 읽기: HN AI Agents
👀 See Also
AI는 당신의 사고를 향상시켜야지, 대체해서는 안 됩니다 — 코시 존이 말하는 엔지니어링의 숨겨진 격차
Koshy John은 단기 생산성을 위해 AI에 사고를 아웃소싱하는 엔지니어는 빈약한 기반을 쌓는 반면, AI를 이용해 단순 반복 작업을 없애고 더 높은 수준에서 작업하는 엔지니어는 진정한 장기 가치를 창출한다고 주장한다.
Anthropic 정책 시행: 구독 한도에 더 이상 제외되지 않는 제3자 Claude 활용
Anthropic은 4월 4일부터 OpenClaw와 같은 서드파티 하네스가 Claude 구독 사용량 한도에서 더 이상 차감되지 않도록 정책 변경을 시행하며, 사용자는 4월 9일까지 추가 사용량을 켜거나 환불을 위해 구독을 취소해야 합니다.
슬럼 코딩: 시간이 사라지는 AI 기반 개발 패턴
한 개발자가 '슬럼 코딩'을 AI 코딩 도구로 가능해진 강렬한 개발 패턴으로 설명합니다. 이는 작은 아이디어가 빠른 구현과 도파민 쾌락의 피드백 루프를 통해 완전한 시스템으로 급격히 확대되는 과정입니다.
클로드 섀넌의 1950년 체스 논문, 생성형 AI의 핵심 문제를 예측하다: 추측 대 앎
1950년 섀넌의 체스 논문은 불확실성 속에서 '그럭저럭 괜찮은' 결정을 내리는 AI의 핵심 과제를 제시했습니다. 오늘날 생성형 AI가 정제되었지만 틀린 답을 내놓을 때 직면하는 문제가 바로 이것입니다.