Microsoft 发布 UserRepGen-4B——面向模拟器的用户描述生成器

HuggingFace 上发布了模型 microsoft/UserRepGen-4B，任务为 text-generation。它是经过微调的 Qwen（通义千问）3.5-4B，能根据用户与助手的多轮对话生成结构化的用户描述（JSON 格式）：任务与行为分开描述。该描述用于为独立的 LLM 用户模拟器提供 conditioning——模型本身不生成回复，也不执行任务。训练通过 online supervised fine-tuning 结合 hindsight distillation，对比模拟行为与真实行为，但在推理时模型直接输出表示，无需进行模拟运行。

这意味着什么

该模型有 45 亿参数，最大的文件为 safetensors 格式的 8.5 GB。许可证为 MIT，通过 transformers 运行。平台上已有一个 GGUF 量化版本：bartowski/UserRepGen-4B-GGUF，最小的可用版本为 IQ4_XS 量化的 2.3 GB。以完整精度运行 4B 模型需要约 9—10 GB 显存，IQ4_XS 量化版大约只需 3—4 GB——这属于中端本地显卡或 CPU 推理可接受速度的水平。 该模型高度专用：面向构建用户模拟器以测试对话系统的人群。它不适用于文本生成或聊天。要跟踪 Microsoft 及其他开发者的新发布，可关注 CPU3D 动态。