antrez의 DS4: Mac Metal 및 DGX에서 1M 컨텍스트로 DeepSeek V4 Flash 실행하기
Redis 창시자 Salvatore Sanfilippo (antirez)가 GitHub에 DS4라는 새 프로젝트를 공개했습니다. 목표는 Apple Silicon (Metal) 하드웨어에서 DeepSeek V4 Flash를 1M 토큰 컨텍스트 윈도우로 실행하는 것입니다. 또한 NVIDIA DGX 시스템에서 구동되는 동영상도 게시했습니다.
DS4의 기능
DS4는 새로운 기술을 활용하여 Mac Metal 하드웨어(예: M 시리즈 칩)에서 DeepSeek V4 Flash의 1M 컨텍스트 윈도우를 구현합니다. DGX에서도 시연되어, Pro 6000 같은 고성능 GPU에서 더 빠른 속도로 약간 작은 컨텍스트 윈도우에서도 작동할 가능성을 보여줍니다. 향후 AMD 지원에 대한 기대도 있습니다.
포함 사항
- 서버 엔드포인트: DS4 서버는 이미 OpenAI 및 Anthropic 호환 API 엔드포인트를 제공하므로, Cursor, Continue.dev 또는 사용자 정의 에이전트와 같은 에이전트 코딩 도구에 쉽게 연결할 수 있습니다.
- GitHub 저장소: https://github.com/antirez/ds4/ — README에서 설정 지침을 확인하세요. Metal 지원으로 컴파일하고 DeepSeek V4 Flash 가중치를 다운로드하는 과정이 포함될 것입니다.
- 동영상 데모: 몇 시간 전, antirez가 X에 DGX에서 실행되는 동영상을 게시했습니다: https://x.com/antirez/status/2053381973226184749
대상 사용자
고성능 Mac 하드웨어(예: Mac Studio, M1 Max/Ultra 또는 M2/M3 탑재 MacBook Pro) 또는 NVIDIA GPU를 보유한 개발자로, 코딩 에이전트나 연구를 위해 매우 큰 컨텍스트 윈도우를 가진 강력한 로컬 LLM을 실행하려는 분들
커뮤니티 참여 요청
Reddit 게시자는 강력한 하드웨어를 가진 모든 분들이 프로젝트를 확인하고 기여해 주시기를 권장합니다. 테스트, 버그 신고, AMD GPU 최적화 등이 가능합니다. 프로젝트는 초기 단계이므로 커뮤니티 참여가 호환성 가속화에 도움이 될 수 있습니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
아이노우쿵푸 스킬은 오픈클로 사용을 분석하여 부족한 스킬을 추천합니다
iknowkungfu는 사용자의 실제 사용 패턴을 기반으로 어떤 스킬이 부족한지 파악하기 위해 에이전트의 작업 공간, 메모리 파일, 대화 로그를 스캔하는 새로운 OpenClaw 스킬입니다. 이 스킬은 신뢰 점수와 사용자의 워크플로우에 연관된 이유와 함께 구체적인 추천을 제공합니다.
OpenClaw Nerve WebUI는 음성 제어 및 팀 관리 대시보드를 추가합니다.
Nerve는 OpenClaw를 위한 WebUI로, Whisper를 통한 더블탭 시프트 음성 제어 및 서브 에이전트 팀 빌딩 기능을 갖춘 AI 에이전트 모니터링 및 관리를 위한 올인원 대시보드를 제공합니다.
Agent Browser Shield: 무료 오픈소스 확장 프로그램, 프롬프트 인젝션 및 다크 패턴 차단
PixieBrix가 Agent Browser Shield를 출시했습니다. 이는 OpenClaw용 무료 소스 이용 가능 브라우저 확장 프로그램으로, 프롬프트 인젝션, 다크 패턴, 컨텍스트 오염을 차단하고 토큰 사용량을 줄여줍니다.
SimplePDF Copilot: PDF 양식 작성을 위한 클라이언트 사이드 AI 도구 호출
SimplePDF Copilot은 클라이언트 측 도구 호출을 사용해 LLM이 PDF 필드를 채우고, 필드를 추가하고, 페이지를 삭제하는 등의 작업을 수행할 수 있게 합니다. PDF는 브라우저를 떠나지 않습니다.