На HuggingFace появилась модель Inkling-2-Mini для text-generation
17 ноября 2026 года на HuggingFace опубликована модель thinkingmachines/Inkling-2-Mini с задачей text-generation. За первые часы модель собрала 819 отметок «нравится» при 136 загрузках. Код выложен в открытый доступ.
Что это значит
Модель содержит 26.4 млрд параметров и использует архитектуру MoE. Самый большой файл весов — 18.2 ГБ в формате safetensors, всего в репозитории 18.8 ГБ. Лицензия — Apache 2.0, запускается через transformers.
Для локального запуска на площадке уже есть 35 квантованных сборок: GGUF, NVFP4, FP8 и MLX. Самая компактная рабочая сборка — IQ4_XS от AtomicChat — занимает 14 ГБ. Это позволяет запустить модель на видеокартах с соответствующим объёмом видеопамяти без дополнительной доработки.
Модель появилась только что, поэтому практических отзывов о качестве генерации пока нет. Следить за новостями об инструментах для локального запуска можно в ленте CPU3D.Как устроен метод. Схема нарисована по этой заметке.