Tencent выложила черновую модель DSpine для Qwen3.8-27B

На HuggingFace опубликована модель tencent/Qwen3.8-27B-DSpine-b16 с задачей text-generation. Это пятислойная черновая модель для Qwen3.8-27B, которая генерирует draft-токены параллельно: каждый слой передаёт предсказанные признаки соседним позициям, проводя причинные зависимости через глубину сети. Размер блока — 16, скользящее окно — 8 192 токена.

Что это значит

Модель содержит 2 млрд параметров, самый большой файл весов — model.safetensors на 3,8 ГБ. Лицензия — apache-2.0, веса выложены в формате safetensors. Квантованных сборок на площадке пока нет. Для запуска автор указывает SGLang 0.5.22 в BF16 с FlashAttention 3, а также динамическую верификацию со ссылкой на DSpark и включённый ReplaySSM. Это не самостоятельная текстовая модель, а черновик для ускорения инференса Qwen3.8-27B. В бенчмарках DSpine показывает большую принимаемую длину блока, чем официальный DFlash2, — например, 7,20 против 5,69 на GSM8K при жадной выборке. Для локального запуска потребуется держать в памяти и основную модель, и этот черновик, поэтому оценивать стоит суммарный объём обеих. Подробнее об инструментах для локального запуска — в ленте CPU3D.