antrez의 DS4: Mac Metal 및 DGX에서 1M 컨텍스트로 DeepSeek V4 Flash 실행하기
Redis 창시자 Salvatore Sanfilippo (antirez)가 GitHub에 DS4라는 새 프로젝트를 공개했습니다. 목표는 Apple Silicon (Metal) 하드웨어에서 DeepSeek V4 Flash를 1M 토큰 컨텍스트 윈도우로 실행하는 것입니다. 또한 NVIDIA DGX 시스템에서 구동되는 동영상도 게시했습니다.
DS4의 기능
DS4는 새로운 기술을 활용하여 Mac Metal 하드웨어(예: M 시리즈 칩)에서 DeepSeek V4 Flash의 1M 컨텍스트 윈도우를 구현합니다. DGX에서도 시연되어, Pro 6000 같은 고성능 GPU에서 더 빠른 속도로 약간 작은 컨텍스트 윈도우에서도 작동할 가능성을 보여줍니다. 향후 AMD 지원에 대한 기대도 있습니다.
포함 사항
- 서버 엔드포인트: DS4 서버는 이미 OpenAI 및 Anthropic 호환 API 엔드포인트를 제공하므로, Cursor, Continue.dev 또는 사용자 정의 에이전트와 같은 에이전트 코딩 도구에 쉽게 연결할 수 있습니다.
- GitHub 저장소: https://github.com/antirez/ds4/ — README에서 설정 지침을 확인하세요. Metal 지원으로 컴파일하고 DeepSeek V4 Flash 가중치를 다운로드하는 과정이 포함될 것입니다.
- 동영상 데모: 몇 시간 전, antirez가 X에 DGX에서 실행되는 동영상을 게시했습니다: https://x.com/antirez/status/2053381973226184749
대상 사용자
고성능 Mac 하드웨어(예: Mac Studio, M1 Max/Ultra 또는 M2/M3 탑재 MacBook Pro) 또는 NVIDIA GPU를 보유한 개발자로, 코딩 에이전트나 연구를 위해 매우 큰 컨텍스트 윈도우를 가진 강력한 로컬 LLM을 실행하려는 분들
커뮤니티 참여 요청
Reddit 게시자는 강력한 하드웨어를 가진 모든 분들이 프로젝트를 확인하고 기여해 주시기를 권장합니다. 테스트, 버그 신고, AMD GPU 최적화 등이 가능합니다. 프로젝트는 초기 단계이므로 커뮤니티 참여가 호환성 가속화에 도움이 될 수 있습니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
AbsolutelySkilled 레지스트리가 Claude Code용 156개의 프로덕션 준비 완료 스킬 추가
한 개발자가 세션 간에 지속되는 Claude Code용 156개의 구조화된 스킬 모듈 레지스트리인 AbsolutelySkilled를 만들었습니다. 각 스킬에는 SKILL.md 파일에 트리거 조건, 참조 파일, 테스트 케이스, 안티패턴이 포함되어 있습니다.
Claude Code용 InsAIts 런타임 보안 모니터, PyPI 다운로드 8,000건 돌파
Claude Code 에이전트 세션을 위한 런타임 보안 모니터인 InsAIts가 PyPI에서 총 8,140회 다운로드를 달성했습니다. 버전 3.4.0은 적응형 컨텍스트 관리자, 계층화된 앵커 주입 시스템, 대시보드 개선 사항을 추가했습니다.
OpenClaw 코어브레인 플러그인: AI 코딩 에이전트를 위한 지속적 메모리
CoreBrain이라는 새로운 플러그인이 OpenClaw의 메모리 문제를 해결합니다. 이 플러그인은 정보를 컨텍스트 윈도우 외부의 지식 그래프에 저장하고 모든 쿼리 전에 자동으로 주입하여 도구 호출과 선택적 메모리 호출의 필요성을 없앱니다.
클로드 코드 검증 병목 현상과 브라우저 자동화 플러그인 솔루션
한 개발자가 Claude Code 사용 시 가장 느린 부분이 검증 단계라고 보고하며, 기능을 수동으로 테스트해야 한다고 말했습니다. 이들은 에이전트가 작업을 완료로 표시하기 전에 실제 제품 흐름을 확인할 수 있게 해주는 브라우저 자동화 플러그인을 발견했습니다.