Tencent выпустила Hy4-flash — MoE-модель на 220 млрд параметров с открытыми весами
17 ноября 2026 года на HuggingFace опубликована модель tencent/Hy4-flash для text-generation. Это MoE-архитектура с 220,3 млрд параметров, из которых на токен активны только 12 млрд. Модель принимает текст и изображения, генерирует текст и поддерживает контекст до 1 млн токенов.
Что это значит
Полные веса в safetensors занимают 410,3 ГБ, самый большой файл — 29,5 ГБ. Для локального запуска через transformers потребуется соответствующее количество видеопамяти или дискового пространства под оффлоад. На площадке уже есть 18 квантованных сборок в форматах GGUF, MLX, NVFP4, FP8, EXL и AWQ. Самая компактная рабочая сборка — Q5 от Baekpica весом 98,9 ГБ.
Лицензия Tencent Hy License 1.0 разрешает использование, изменение и распространение модели, включая коммерческое применение, при сохранении уведомлений об авторстве и копии лицензии. Отдельная письменная лицензия нужна только для MaaS-бизнеса с выручкой свыше 50 млн долларов за 12 месяцев или продуктом с более чем 100 млн активных пользователей в месяц. Внутреннее использование без доступа третьих лиц дополнительной лицензии не требует.
Даже в квантованном виде модель остаётся тяжёлой для домашнего железа: 98,9 ГБ в Q5 — это уровень серверных GPU или систем с большим объёмом оперативной памяти и оффлоадом. Для тех, кто ищет компактные локальные модели, Hy4-flash вряд ли станет повседневным инструментом, но как открытая MoE-модель с длинным контекстом она задаёт ориентир для сборок под серверное железо. Следить за появлением более лёгких квантованных вариантов можно в ленте новостей CPU3D.Как устроен метод. Схема нарисована по этой заметке.