MiniCPM5-2B: новая 2B-модель для локального запуска вышла на HuggingFace

На HuggingFace 6 сентября 2026 года опубликована модель openbmb/MiniCPM5-2B с задачей text-generation. Это вторая модель серии MiniCPM5 после MiniCPM5-1B — плотный 2B-трансформер, рассчитанный на локальное развёртывание и сценарии с ограниченными ресурсами. Авторы заявляют уровень SOTA среди открытых моделей класса 2B и конкурентоспособность с моделями класса 4B в кодинге, математике, понимании длинного контекста и агентных задачах.

Что это значит

Модель весит 4.7 ГБ в формате safetensors, содержит 2.5 млрд параметров и распространяется по лицензии apache-2.0. Запускается через transformers. На площадке уже есть 16 квантованных сборок в форматах GGUF и MLX; самая компактная рабочая — IQ4_XS на 1.3 ГБ от PollardWeights. Для локального запуска на CPU или GPU с ограниченной видеопамятью это позволяет выбрать сборку под доступное железо: от полной модели до 4-битного кванта. Публикация интересна тем, кто подбирает компактную текстовую модель для локального использования: веса открыты, лицензия разрешительная, а квантованные варианты уже выложены сообществом. Следить за появлением подобных моделей можно в ленте новостей CPU3D.