IBM 发布 Granite Switch 4.1 30B——带适配器与语音识别的模块化 LLM

2026 年 10 月 14 日，HuggingFace 上出现了一个任务为 text-generation 的模型 ibm-granite/granite-switch-4.1-30b。这是一个模块化 LLM，将基础模型、两个适配器和音频编码器整合在同一个 endpoint 中：单个托管服务既能以文本作答，也能做出决策，还能识别英语语音。适配器通过聊天模板中的控制 token 按需启用。

这意味着什么

该模型包含 30 亿参数，仓库中全部权重以 safetensors 格式占用 55.9 GB。最大的文件为 4.3 GB。许可证为 Apache 2.0，可通过 HuggingFace Transformers 或 vLLM 运行。平台上目前还没有量化版本，因此本地运行需要一块显存足以容纳完整模型权重的显卡。 其基础是上下文长度为 128K 的 granite-4.1-30b。在其之上接入了两个适配器：用于通用决策的 decision，以及来自 granitelib-guardian-r1.0 的 guardian-core。音频部分为 granite-speech-5.0-470m-turboctc，470 亿参数，用于识别英语语音。同一产品线还推出了基于 8B 的轻量版 granite-switch-4.1-8b。 关于本地运行工具的新闻，可在 CPU3D 动态中关注。