DeepSeek DSpark: спекулятивный декодер для V4 на DGX Spark, баг‑фиксы и новые бенчмарки
DeepSeek выпустил DSpark — спекулятивный декодер для модели V4. Мы портировали его на два DGX Spark, устранили баг, измерили новые метрики и сравнили с оптимизацией сообщества.
DeepSeek объявил о релизе DSpark — спекулятивного декодера, предназначенного для ускорения вывода модели V4. В отличие от традиционных методов, DSpark генерирует «черновики» (drafts) и уточняет их в реальном времени, что позволяет сократить латентность при сохранении качества.
В период с 27 по 30 июня 2026 г. команда openagents самостоятельно портировала DSpark на два серверных блока NVIDIA DGX Spark (GPU H100). При первоначальном запуске был обнаружен унаследованный баг: механизм выбора черновика часто отбрасывал хорошие варианты, что приводило к заметному падению качества драфтов. После локализации проблемы баг был исправлен, а производительность системы значительно возросла.
Для оценки реального ускорения был проведён полный набор бенчмарков: измерялась пропускная способность (tokens / s) при разных длинах контекста, а также кривая деградации качества до 1 млн токенов. Полученные данные показали, что DSpark стабильно превышает базовый V4‑инференс на 1,8‑2,2× при длине контекста до 64 К токенов.
Параллельно сообщество DeepSeek выложило «рецепт» оптимизации, который ускорил работу вдвое по сравнению с нашим первоначальным портом. Мы воспроизвели этот рецепт, сравнили результаты и обнаружили, что в публичных метриках отсутствует информация о деградации качества при экстремальных длинах контекста. Наши дополнительные измерения заполняют этот пробел и предоставляют более полную картину поведения DSpark в продакшене.
Подробности публикации доступны на Habr AI (https://habr.com/ru/articles/1055792/), а код репозитория DeepSeek – в официальном GitHub. Эта работа подчёркивает важность совместных усилий исследователей и сообщества для быстрой отладки и масштабирования новых технологий.
Спекулятивный декодер DSpark открывает путь к более быстрым LLM‑инференсам, особенно при работе с длинными контекстами. Устранённый баг напоминает, что даже в продакшн‑версии могут скрываться критические ошибки, требующие тщательного тестирования. Сообщества‑партнёры способны находить оптимизации в разы быстрее, чем отдельные команды, что ускоряет внедрение новых возможностей. Новые бенчмарки до 1 млн токенов дают практикам реальное представление о масштабируемости DSpark, позволяя более точно планировать вычислительные ресурсы.
