Tencent выложила Hy-Memory-30B-A3B для внешней памяти ИИ-агентов
Tencent Hunyuan опубликовала на HuggingFace модель Hy-Memory-30B-A3B с задачей text-generation. Это компактная модель примерно на 3 млрд активных параметров, обученная для записи данных во внешние системы памяти — Mem0, MemOS и Hy-Memory. Она решает, что сохранять, как представлять информацию и как обновлять банк памяти новыми данными.
Что это значит
Полная модель содержит 30,1 млрд параметров, веса в репозитории занимают 56 ГБ в формате safetensors. Лицензия — apache-2.0. Запускается через transformers. На площадке есть 8 квантованных сборок: EXL, GGUF, MLX, NVFP4 и FP8. Самая компактная рабочая сборка — Q4_0 весом 15,9 ГБ.
Для локального запуска нужна видеокарта с достаточным объёмом памяти под выбранную сборку. Квантование Q4_0 снижает требования по сравнению с полной моделью, но разработчик не уточняет минимальный объём видеопамяти для конкретных форматов. Следить за новыми моделями и сборками можно в ленте CPU3D.Как устроен метод. Схема нарисована по этой заметке.