CPU3DИИ-инструменты для 3D, видео и звука

На HuggingFace появилась модель Inkling-2-Mini для text-generation

17 ноября 2026 года на HuggingFace опубликована модель thinkingmachines/Inkling-2-Mini с задачей text-generation. За первые часы модель собрала 819 отметок «нравится» при 136 загрузках. Код выложен в открытый доступ.

Что это значит

Модель содержит 26.4 млрд параметров и использует архитектуру MoE. Самый большой файл весов — 18.2 ГБ в формате safetensors, всего в репозитории 18.8 ГБ. Лицензия — Apache 2.0, запускается через transformers. Для локального запуска на площадке уже есть 35 квантованных сборок: GGUF, NVFP4, FP8 и MLX. Самая компактная рабочая сборка — IQ4_XS от AtomicChat — занимает 14 ГБ. Это позволяет запустить модель на видеокартах с соответствующим объёмом видеопамяти без дополнительной доработки. Модель появилась только что, поэтому практических отзывов о качестве генерации пока нет. Следить за новостями об инструментах для локального запуска можно в ленте CPU3D.
Inkling-2-Mini на HuggingFace 17 ноября 2026 · text-generation · Apache 2.0 Модель thinkingmachines/Inkling-2-Mini 26.4 млрд параметров Архитектура MoE задача text-generation Веса формат safetensors Самый большой файл: 18.2 ГБ Всего в репозитории: 18.8 ГБ запуск через transformers Квантование 35 сборок GGUF · NVFP4 · FP8 · MLX IQ4_XS от AtomicChat — 14 ГБ для локального запуска Локальный запуск на видеокарте 14 ГБ видеопамяти без доработки компактная сборка Отзывы о качестве генерации Практических отзывов нет Модель появилась только что следить в ленте CPU3D Статистика за первые часы 819 лайков 136 загрузок код открыт
Как устроен метод. Схема нарисована по этой заметке.

Смотрите также