CPU3DИИ-инструменты для 3D, видео и звука

Liquid AI выпустила 24B-модель LFM2.5-24B-A2B для локальных агентов

На HuggingFace 12 октября 2026 года опубликована модель LiquidAI/LFM2.5-24B-A2B с задачей text-generation. Это самая крупная и финальная модель в семействе LFM2.5: 24 млрд параметров, из которых на каждый токен активны только 2 млрд. Автор позиционирует её как модель для быстрых приватных агентов на устройстве и сравнивает с Qwen3.6-35B-A3B, у которой примерно на 50% больше и общих, и активных параметров.

Что это значит

Полные веса в safetensors занимают 44.7 ГБ, самый большой файл — 4.6 ГБ. Модель запускается через transformers, архитектура — MoE. На площадке уже есть 28 квантованных сборок: GGUF, FP8, MLX, GPTQ и NVFP4. Самая маленькая рабочая сборка — Q4_0 весом 12.6 ГБ, сборки хуже 4 бит в расчёт не берём. Лицензия — LFM Open License v1.0: коммерческое использование разрешено до годовой выручки в 10 млн долларов США, для некоммерческих организаций порог не применяется. При распространении нужно приложить лицензию, отметить изменения и сохранить уведомления об авторстве. Для локального запуска 12.6 ГБ в Q4_0 — это уровень, который помещается в видеопамять современных потребительских GPU, а на Apple Silicon модель работает через MLX. Автор заявляет 184 токена в секунду на Apple M5 Max, но на более скромном железе скорость будет ниже. Подробнее о новостях локальных ИИ-инструментов — в ленте CPU3D.
LFM2.5-24B-A2B: локальные агенты Вход текстовый запрос для агента LFM2.5-24B-A2B архитектура MoE 24 млрд параметров активны 2 млрд Квантование Q4_0: 12.6 ГБ 28 сборок GGUF, FP8, MLX Выход ответ агента Сравнение с Qwen3.6-35B-A3B LFM2.5-24B-A2B 24 млрд всего 2 млрд активных Qwen3.6-35B-A3B 35 млрд всего 3 млрд активных +50% Локальный запуск Потребительский GPU 12.6 ГБ в VRAM Apple M5 Max 184 ток/с через MLX LFM Open License v1.0 коммерция до 10 млн долл.
Как устроен метод. Схема нарисована по этой заметке.

Смотрите также