세레브라스, 메모리 사용량 40% 감소한 Step-3.5-Flash-REAP 모델 출시
이것이 무엇인가요
Cerebras는 더 큰 모델의 메모리 효율적인 압축 변형인 Step-3.5-Flash-REAP 모델을 출시했습니다. 이는 출처에서 "감자 같은 설정"이라고 부르는 환경을 위해 설계된 더 작은 버전이지만, 121B 파라미터 모델은 여전히 상당한 리소스를 필요로 합니다.
출처의 주요 세부 사항
이 모델들은 Hugging Face에서 이용 가능합니다:
Step-3.5-Flash-REAP-121B-A11B 모델은 196B에서 121B 파라미터로 압축되어, 전체 모델과 거의 동일한 성능을 유지하면서 40%의 메모리 감소를 나타냅니다.
압축에는 REAP(Router-weighted Expert Activation Pruning)이 사용되며, 이는 "남은 전문가들에 대한 라우터의 독립적인 제어를 유지하면서 중복된 전문가들을 선택적으로 제거하는 새로운 전문가 가지치기 방법"으로 설명됩니다.
기능과 능력
- 거의 손실 없는 성능: 코드 생성, 에이전트 코딩, 함수 호출 작업에서 전체 196B 모델과 비교해 거의 동일한 정확도를 유지합니다
- 40% 메모리 감소: 196B에서 121B 파라미터로 압축되어 배포 비용과 메모리 요구 사항을 낮춥니다
- 보존된 능력: 코드 생성, 수학 및 추론, 도구 호출을 포함한 모든 핵심 기능을 유지합니다
- 즉시 호환성: 기본 vLLM과 작동합니다 - 소스 수정이나 사용자 정의 패치가 필요하지 않습니다
- 실제 사용에 최적화: 리소스가 제한된 환경, 로컬 배포, 학술 연구에 특히 효과적입니다
출처는 이들이 "더 작은 버전"이지만, 121B 모델은 압축에도 불구하고 여전히 상당히 강력한 설정을 필요로 한다고 언급합니다.
📖 전체 출처 읽기: r/LocalLLaMA
👀 See Also
Claude Code v2.1.287, Claude Mods, 'You Should Know' 사이드 에이전트, MCP URL 프롬프트 추가
Claude Code v2.1.287은 플러그인이 더 깊은 동작을 수정할 수 있게 해주는 Claude Mods와 'You Should Know'라는 내장 사이드 에이전트 플러그인, 그리고 2025-11-25 프로토콜의 MCP URL 프롬프트를 도입했습니다.
조사: 압축 변경으로 인해 클로드 코드 에이전트가 검증되지 않은 MEMORY.md 콘텐츠를 표면화함
한 사용자가 Claude Code 에이전트가 작업 중간에 MEMORY.md의 내용을 재확인하지 않고 표시하고 있다고 보고했습니다. 이는 버전 2.1.139 및 2.1.141의 압축 변경 사항과 관련이 있습니다. 두 가지 복합 요인: '사용자 지침'의 과도한 보존과 자동 압축 임계값의 버그입니다.
클로드.ai 현재 다운, API 오류 증가 — 2026년 4월 28일
Claude의 공식 상태 페이지에서 트리거된 자동 상태 업데이트에 따르면, 2026-04-28T17:51:36.000Z 기준으로 Claude.ai를 사용할 수 없고 API에서 오류율이 높아지고 있습니다.
DeepSeek, 주력 AI 모델에 75% 영구 할인 적용
DeepSeek이 플래그십 AI 모델의 75% 할인을 영구화합니다. 원래는 프로모션 가격이었던 API 액세스 할인이 고정되어 개발자에게 경쟁력 있는 가격을 제공합니다.