CPU3D3D、视频与音频的 AI 工具

HuggingFace 上出现用于 text-generation 的 Inkling-2-Mini 模型

2026年11月17日,模型 thinkingmachines/Inkling-2-Mini 在 HuggingFace 上发布,任务为 text-generation。发布后的最初几小时内,该模型获得了 819 个“喜欢”,下载量为 136 次。代码已开源。

这意味着什么

该模型包含 26.4 亿参数,采用 MoE 架构。最大的权重文件为 18.2 GB,格式为 safetensors,仓库总大小为 18.8 GB。许可证为 Apache 2.0,可通过 transformers 运行。 为便于在自己的硬件上运行,平台上已有 35 个量化版本:GGUF、NVFP4、FP8 和 MLX。最紧凑的可用版本是 AtomicChat 的 IQ4_XS,占用 14 GB。这使得模型可以在具有相应显存容量的显卡上运行,无需额外修改。 该模型刚刚发布,因此目前还没有关于生成质量的实践评价。有关在自己的硬件上运行的工具的新闻,可在 CPU3D 动态中关注。
Inkling-2-Mini 在 HuggingFace 2026年11月17日 · text-generation · Apache 2.0 模型 thinkingmachines/Inkling-2-Mini 26.4 亿参数 MoE 架构 任务 text-generation 权重 格式 safetensors 最大文件:18.2 GB 仓库总计:18.8 GB 通过 transformers 运行 量化 35 个构建 GGUF · NVFP4 · FP8 · MLX AtomicChat 的 IQ4_XS — 14 GB 用于本地运行 本地运行 在显卡上 14 GB 显存 无需改动 紧凑构建 评价 关于生成质量 暂无实际评价 模型刚刚发布 在 CPU3D 动态中关注 统计 最初几小时 819 个赞 136 次下载 代码开源
方法的结构。示意图根据本简讯绘制。

相关阅读