MiniCPM-V 4.7 35B-A3B：该系列首个支持端侧推理的 MoE 模型

2026 年 10 月 7 日，模型 openbmb/MiniCPM-V-4.7-35B-A3B 在 HuggingFace 上发布，任务类型为 image-text-to-text。这是 MiniCPM-V 系列中首个采用 MoE 架构的版本：352 亿参数，但并非全部同时激活。作者声称，借助 Lookahead Expert Scheduling 技术和逐层量化，该模型在 iPhone 17 Pro Max 上以 3 GB 内存实现每秒 13+ token 的解码速度。

这意味着什么

要在自己的硬件上运行，该模型以 safetensors 格式通过 transformers 提供，许可证为 apache-2.0。完整仓库体积为 65.6 GB，最大的单个文件为 4.7 GB。平台上已有 10 个量化版本：GGUF、FP8、GPTQ、AWQ 和 MLX。最轻的可用版本是 AtomicChat 的 IQ4_XS，为 16.4 GB；低于 4 比特的版本不在考虑范围内。 几乎同一时间还发布了 MiniCPM-V-4.7-1B，但本简讯中没有它的参数表。可以在 CPU3D 动态中关注新模型和量化版本的出现。