Nous Research 在 HuggingFace 上发布了模型 Arete-27B,任务为 text-generation。这是 Alibaba Qwen(通义千问)3.8-27B 的后训练版本:作者进行了 supervised fine-tuning,以调整模型对政治敏感话题的回答。据 Nous Research 评估,带有宣传内容的回答占比从 22% 降至 0.9%,总体事实性得分从 2.32 提升至 2.98(满分 5)。
这意味着什么
模型包含 27.4 亿参数,权重以 safetensors 格式发布,占用 51 GB。许可证为 apache-2.0,也就是说模型可以自由使用和修改,包括商业项目。最大的权重文件为 3.7 GB。
为在自己的硬件上运行,提供了量化版本:平台上共有八个,格式为 GGUF 和 EXL。最小的可用版本重 13.1 GB——IsValorum/Arete-27B-VAL-APEX-I-MiniPlus-V3-GGUF。这一体量可以放入现代消费级 GPU 的显存,不过原始形态的完整模型需要明显更多的资源。开发者未说明显存要求。
模型仅使用文本数据训练,上下文为 64k,未使用 reinforcement learning。作者强调,他们并未消除原始 Qwen3.8-27B 的所有特性,但认为已触及所观察到偏差的可能原因之一。有关本地运行工具的动态,可在
CPU3D 动态中关注。
方法的结构。示意图根据本简讯绘制。