IBM выпустила Granite Switch 4.1 30B — модульную LLM с адаптерами и распознаванием речи

На HuggingFace 14 октября 2026 года появилась модель ibm-granite/granite-switch-4.1-30b с задачей text-generation. Это модульная LLM, которая объединяет базовую модель, два адаптера и аудиоэнкодер в одном endpoint: один хостинг умеет отвечать текстом, принимать решения и распознавать английскую речь. Адаптеры включаются по требованию через управляющие токены в чат-шаблоне.

Что это значит

Модель содержит 30 млрд параметров, все веса в репозитории занимают 55.9 ГБ в формате safetensors. Самый большой файл — 4.3 ГБ. Лицензия Apache 2.0, запуск через HuggingFace Transformers или vLLM. Квантованных сборок на площадке пока нет, поэтому для локального запуска потребуется видеокарта с запасом видеопамяти под полный вес модели. В основе лежит granite-4.1-30b с контекстом 128K. Поверх неё подключены два адаптера: decision для общих решений и guardian-core из granitelib-guardian-r1.0. Аудиочасть — granite-speech-5.0-470m-turboctc на 470 млн параметров для распознавания английской речи. В той же линейке вышла облегчённая granite-switch-4.1-8b на базе 8B. Следить за новостями об инструментах для локального запуска можно в ленте CPU3D.