CPU3D3D、视频与音频的 AI 工具

Liquid AI 发布 24B 模型 LFM2.5-24B-A2B,面向本地智能体

2026 年 10 月 12 日,HuggingFace 上发布了模型 LiquidAI/LFM2.5-24B-A2B,任务为 text-generation。这是 LFM2.5 系列中最大也是最终的模型:240 亿参数,其中每个 token 仅激活 20 亿。作者将其定位为用于设备上快速私有智能体的模型,并与 Qwen(通义千问)3.6-35B-A3B 进行比较,后者的总参数和激活参数都大约多出 50%。

这意味着什么

safetensors 格式的完整模型权重占用 44.7 GB,最大的单个文件为 4.6 GB。模型通过 transformers 启动,架构为 MoE。平台上已有 28 个量化版本:GGUF、FP8、MLX、GPTQ 和 NVFP4。最小的可用版本是 Q4_0,大小为 12.6 GB,低于 4 比特的版本不在考虑范围内。许可证为 LFM Open License v1.0:年营收不超过 1000 万美元时允许商业使用,非营利组织不受此门槛限制。分发时需附上许可证、标注修改并保留署名声明。 对于本地运行而言,Q4_0 的 12.6 GB 属于可以放进现代消费级 GPU 显存的水平,而在 Apple Silicon 上模型通过 MLX 运行。作者声称在 Apple M5 Max 上达到每秒 184 个 token,但在更普通的硬件上速度会更低。更多本地 AI 工具动态详见 CPU3D 动态。
LFM2.5-24B-A2B:本地智能体 输入 文本提示 用于智能体 LFM2.5-24B-A2B MoE 架构 240 亿参数 激活 20 亿 量化 Q4_0:12.6 GB 28 个构建 GGUF, FP8, MLX 输出 回复 智能体 对比 Qwen3.6-35B-A3B LFM2.5-24B-A2B 共 240 亿 激活 20 亿 Qwen3.6-35B-A3B 共 350 亿 激活 30 亿 +50% 本地运行 消费级 GPU 显存 12.6 GB Apple M5 Max MLX 下 184 令牌/秒 LFM Open License v1.0 商用上限 1000 万美元
该方法的原理。示意图根据这篇简讯绘制。

相关阅读