CPU3D3D、视频与音频的 AI 工具

MiniCPM5-2B:面向本地运行的新2B模型已在HuggingFace发布

2026年9月6日,HuggingFace 上发布了模型 openbmb/MiniCPM5-2B,任务类型为 text-generation。这是 MiniCPM5 系列中继 MiniCPM5-1B 之后的第二款模型——一个密集的 2B 参数 Transformer,专为本地部署和资源受限场景设计。据作者描述,该模型在开源 2B 级别模型中达到 SOTA 水平,并在编程、数学、长上下文理解和智能体任务方面可与 4B 级别模型竞争。

这意味着什么

该模型以 safetensors 格式发布,大小 4.7 GB,包含 25 亿参数,采用 apache-2.0 许可证分发。可通过 transformers 运行。平台上已有 16 个 GGUF 和 MLX 格式的量化版本;最紧凑的可运行版本是 PollardWeights 提供的 IQ4_XS,大小 1.3 GB。对于在 CPU 或显存受限的 GPU 上本地运行,这允许用户根据可用硬件选择版本:从完整模型到 4 位量化版本。 这篇发布对正在挑选紧凑型本地文本模型的人很有参考价值:权重开源,许可证宽松,社区也已上传量化版本。关注此类模型的动态,可查看 CPU3D 动态
MiniCPM5-2B:本地运行 2B 模型 HuggingFace 模型发布 openbmb/MiniCPM5-2B 2B MiniCPM5-2B 25 亿参数 4.7 GB safetensors 4b 量化 16 个 GGUF/MLX 构建 IQ4_XS — 1.3 GB 本地运行 CPU 或 GPU 通过 transformers 任务 编码、数学 长上下文 Apache-2.0 宽松许可证 SOTA 2B 对标 4B 级别 流程:从 HuggingFace 发布到本地使用 MiniCPM5-2B
方法原理示意图。该图根据此简讯绘制。

相关阅读