Liquid AI выпустила 24B-модель LFM2.5-24B-A2B для локальных агентов
На HuggingFace 12 октября 2026 года опубликована модель LiquidAI/LFM2.5-24B-A2B с задачей text-generation. Это самая крупная и финальная модель в семействе LFM2.5: 24 млрд параметров, из которых на каждый токен активны только 2 млрд. Автор позиционирует её как модель для быстрых приватных агентов на устройстве и сравнивает с Qwen3.6-35B-A3B, у которой примерно на 50% больше и общих, и активных параметров.
Что это значит
Полные веса в safetensors занимают 44.7 ГБ, самый большой файл — 4.6 ГБ. Модель запускается через transformers, архитектура — MoE. На площадке уже есть 28 квантованных сборок: GGUF, FP8, MLX, GPTQ и NVFP4. Самая маленькая рабочая сборка — Q4_0 весом 12.6 ГБ, сборки хуже 4 бит в расчёт не берём. Лицензия — LFM Open License v1.0: коммерческое использование разрешено до годовой выручки в 10 млн долларов США, для некоммерческих организаций порог не применяется. При распространении нужно приложить лицензию, отметить изменения и сохранить уведомления об авторстве.
Для локального запуска 12.6 ГБ в Q4_0 — это уровень, который помещается в видеопамять современных потребительских GPU, а на Apple Silicon модель работает через MLX. Автор заявляет 184 токена в секунду на Apple M5 Max, но на более скромном железе скорость будет ниже. Подробнее о новостях локальных ИИ-инструментов — в ленте CPU3D.Как устроен метод. Схема нарисована по этой заметке.