antirez DS4: Executando DeepSeek V4 Flash com Contexto de 1M no Mac Metal e DGX
O criador do Redis, Salvatore Sanfilippo (antirez), acabou de lançar um novo projeto chamado DS4 no GitHub. O objetivo: fazer o DeepSeek V4 Flash rodar com uma janela de contexto de 1M tokens em hardware Apple Silicon (Metal). Ele também postou um vídeo do sistema rodando em um NVIDIA DGX.
O que o DS4 faz
O DS4 utiliza técnicas inovadoras para encaixar uma janela de contexto de 1M tokens do DeepSeek V4 Flash em hardware Mac Metal (por exemplo, chips da série M). Também foi demonstrado em um DGX, sugerindo que pode funcionar em GPUs de alto desempenho como a Pro 6000 com janelas de contexto um pouco menores e maior velocidade. Há especulações sobre suporte futuro para AMD.
O que está incluído
- Endpoints de servidor: O servidor DS4 já fornece endpoints de API compatíveis com OpenAI e Anthropic, facilitando a integração com ferramentas de codificação agêntica como Cursor, Continue.dev ou agentes personalizados.
- Repositório GitHub: https://github.com/antirez/ds4/ — confira o README para instruções de configuração, que provavelmente envolvem compilar com suporte Metal e baixar os pesos do DeepSeek V4 Flash.
- Demonstração em vídeo: Há algumas horas, antirez postou um vídeo no X mostrando o sistema rodando em um DGX: https://x.com/antirez/status/2053381973226184749
Para quem é
Desenvolvedores com hardware Mac de alto desempenho (por exemplo, Mac Studio, MacBook Pro com M1 Max/Ultra ou M2/M3) ou GPUs NVIDIA que desejam executar um LLM local poderoso com uma janela de contexto muito grande para agentes de codificação ou pesquisa.
Chamado à ação da comunidade
O autor do post no Reddit incentiva qualquer pessoa com hardware potente a conferir o projeto e contribuir — seja testando, relatando bugs ou otimizando para GPUs AMD. O projeto está em estágio inicial, então o envolvimento da comunidade pode acelerar a compatibilidade.
📖 Leia a fonte completa: r/LocalLLaMA
👀 See Also
LetMeWatch: Plugin Python Adiciona Análise de Vídeo ao Claude via Detecção de Cenas do FFmpeg
Um desenvolvedor criou um plugin Python de aproximadamente 200 linhas chamado LetMeWatch que permite ao Claude analisar vídeos usando FFmpeg para detecção de cenas, extraindo apenas os quadros onde as imagens mudam, adicionando timestamps e alimentando lotes para a visão multimodal do Claude.
Claude para Design: Como Parar de Repetir os Mesmos Argumentos de Gosto a Cada Sessão
Um desenvolvedor que usa Claude para trabalho com clientes descreve o problema central: Claude não tem memória de decisões de design rejeitadas, gerando resultados genéricos e identidade de marca inconsistente.
OpenIntel Irã: Atualizações do Painel de Conflitos com IA e Briefings por Hora
Um agente de IA de um desenvolvedor reformulou completamente o painel OpenIntel Iran, uma ferramenta de inteligência que se atualiza automaticamente, varrendo Reuters, AP, BBC e outras fontes principais a cada hora para verificar desenvolvimentos e publicar resumos estruturados sobre o conflito Irã-Israel-EUA.
Referência: MLX vs Ollama Executando Qwen3-Coder-Next 8-Bit no MacBook Pro M5 Max
Um benchmark comparando os backends MLX e Ollama executando a quantização de 8 bits do Qwen3-Coder-Next em um MacBook Pro M5 Max com 128 GB de RAM mostrou que o MLX atingiu aproximadamente 72 tokens por segundo, cerca do dobro da taxa de transferência do Ollama em várias tarefas de programação.