2026 年 10 月 12 日,HuggingFace 上发布了模型
LiquidAI/LFM2.5-24B-A2B,任务为 text-generation。这是 LFM2.5 系列中最大也是最终的模型:240 亿参数,其中每个 token 仅激活 20 亿。作者将其定位为用于设备上快速私有智能体的模型,并与 Qwen(通义千问)3.6-35B-A3B 进行比较,后者的总参数和激活参数都大约多出 50%。
这意味着什么
safetensors 格式的完整模型权重占用 44.7 GB,最大的单个文件为 4.6 GB。模型通过 transformers 启动,架构为 MoE。平台上已有 28 个量化版本:GGUF、FP8、MLX、GPTQ 和 NVFP4。最小的可用版本是 Q4_0,大小为 12.6 GB,低于 4 比特的版本不在考虑范围内。许可证为 LFM Open License v1.0:年营收不超过 1000 万美元时允许商业使用,非营利组织不受此门槛限制。分发时需附上许可证、标注修改并保留署名声明。
对于本地运行而言,Q4_0 的 12.6 GB 属于可以放进现代消费级 GPU 显存的水平,而在 Apple Silicon 上模型通过 MLX 运行。作者声称在 Apple M5 Max 上达到每秒 184 个 token,但在更普通的硬件上速度会更低。更多本地 AI 工具动态详见
CPU3D 动态。
该方法的原理。示意图根据这篇简讯绘制。