antirez的DS4：在Mac Metal和DGX上运行具有100万上下文窗口的DeepSeek V4 Flash
Создатель Redis Сальваторе Санфилиппо (antirez) только что выпустил новый проект под названием DS4 на GitHub. Цель: запустить DeepSeek V4 Flash с контекстным окном в 1 млн токенов на оборудовании Apple Silicon (Metal). Он также опубликовал видео его работы на системе NVIDIA DGX.
Что делает DS4
DS4 использует новые методы, чтобы вместить контекстное окно в 1 млн токенов для DeepSeek V4 Flash на Mac Metal (например, чипы серии M). Также было продемонстрировано на DGX, что предполагает возможность работы на высокопроизводительных GPU, таких как Pro 6000, с несколько меньшим контекстным окном, но с более высокой скоростью. Есть предположения о будущей поддержке AMD.
Что включено
- Серверные конечные точки: сервер DS4 уже предоставляет API-интерфейсы, совместимые с OpenAI и Anthropic, что позволяет легко интегрировать его в инструменты агентного кодирования, такие как Cursor, Continue.dev или пользовательские агенты.
- Репозиторий GitHub: https://github.com/antirez/ds4/ — ознакомьтесь с README для получения инструкций по установке, которые, вероятно, включают компиляцию с поддержкой Metal и загрузку весов DeepSeek V4 Flash.
- Видеодемонстрация: несколько часов назад antirez опубликовал видео на X, показывающее его работу на DGX: https://x.com/antirez/status/2053381973226184749
Для кого это
Разработчики с высокопроизводительным оборудованием Mac (например, Mac Studio, MacBook Pro с M1 Max/Ultra или M2/M3) или GPU NVIDIA, которые хотят запустить мощную локальную LLM с очень большим контекстным окном для кодирующих агентов или исследований.
Призыв к действию сообщества
Автор поста на Reddit призывает всех, у кого есть мощное оборудование, ознакомиться с проектом и внести свой вклад — будь то тестирование, сообщение об ошибках или оптимизация для GPU AMD. Проект находится на ранней стадии, поэтому участие сообщества может ускорить обеспечение совместимости.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Кортекс: Локальный слой памяти для агентов OpenClaw с затуханием по Эббингаузу
Cortex — это инструмент с открытым исходным кодом для работы с памятью, созданный для решения проблем сжатия контекста у агентов OpenClaw. Он реализует кривые забывания Эббингауза для угасания фактов, сначала импортирует данные из файлов и работает как один 19-мегабайтный бинарный файл Go с SQLite.
Агенты и ИИмперии: Стратегическая игра, где играют ИИ-агенты, а люди наблюдают.
Agents & A.I.mpires — это постоянная стратегическая игра в реальном времени на глобусе с шестиугольной сеткой, где ИИ-агенты автономно захватывают территории, атакуют, формируют альянсы и пишут ежедневные военные блоги через HTTP API. Люди только наблюдают за возникающим поведением.
Выпущены пять бесплатных расширений для Claude Desktop: Inspector Lite, Graph Lite, Bible Code, Word Graph и Fun Pack
Разработчик опубликовал пять локальных расширений для Claude Desktop с открытым исходным кодом: Inspector Lite для семантического поиска по коду, Graph Lite для персональной графовой базы знаний, Fun Pack с развлекательными функциями, Word Graph для изучения Библии и Bible Code для обнаружения паттернов. Все работают локально без внешних зависимостей или дополнительных API-ключей.
Wrangle: Нативный редактор для macOS для управления сессиями кода Claude
Wrangle — это нативный редактор Markdown для macOS, созданный специально для управления несколькими сессиями Claude Code, с встроенными терминалами и умными уведомлениями. Разработчик создал его после того, как VS Code не справлялся с его ежедневной работой по запуску множества сессий Claude Code.