1. 问题回放三个测试全挂意味着什么在原架构中我们成功训练了一个 0.85B 的[COMMON]专家它能完整输出自我介绍。然而当我们用三个简单测试去验证时模型表现如下测试提问期望行为实际表现测试一「简短介绍一下你自己。」输出精简版自我介绍依然输出训练时的完整长文无视「简短」指令测试二「今天天气怎么样」拒答或告知无法获取把自我介绍中的句子拼接到天气相关回答上胡言乱语测试三连续问三遍「自我介绍」措辞应有自然变化三遍输出一字不差机械复读结论模型没有学会「指令遵循」也没有建立「知识边界」本质上是一个「超强背诵器」而非「对话智能体」。2. 根因诊断不是架构不行是数据缺了「约束维度」原论文的架构主模型路由 专家隔离是正确的。问题出在训练数据的语义覆盖度不足2.1 数据结构的「隐性塌缩」原数据集的结构是单一的(Instruction, Output)对{instruction: 请做自我介绍, output: 我是 chuchu00000000一名 AI 爱好者...}模型在这个映射中学到的本质是「自我介绍」这四个字 → 那一整段固定文本。至于「简短」、「三句话」、「用英文」这些修饰词它们根本没有出现在训练数据中模型自然无从学习。2.2 小模型「记忆优先、泛化靠后」的底层特性0.85B 模型隐空间维度有限它的优先级策略是优先记忆训练样本中的高频输入-输出对因为你给了 3 个 Epoch它已经背得很牢了。泛化只发生在输入与训练样本足够相似时。当输入从「自我介绍」变成「简短介绍」时模型判断输入不匹配任何已知样本于是退回到最大概率路径——也就是它背得最熟的那段固定文本。2.3 拒答能力的缺失模型中没有任何(未知问题 → 拒答)的样本因此当遇到「天气」这种完全不在训练分布中的输入时模型只能在已有知识碎片中强行拼接答案。3. 修复方案为数据注入「控制维度」不改架构不改代码只改数据配方。在原论文 3.4.1 节的基础上对每个专家尤其是[COMMON]专家的训练数据进行三类增强。3.1 约束变体数据解决测试一针对每一条原始指令人工或利用大模型生成 3~5 个带约束的变体原始指令生成的约束变体「请做自我介绍」「用一句话介绍你自己。」「请做自我介绍」「用三句话介绍你自己。」「请做自我介绍」「用英文介绍你自己。」「请做自我介绍」「用小学生能听懂的话介绍一下你。」对应的 Output 也需要同步调整{instruction: 用一句话介绍你自己, output: 我是 chuchu一个爱折腾 AI 的开发者。} {instruction: 用三句话介绍你自己, output: 我是 chuchu。我主要研究小模型微调。我喜欢写代码。} {instruction: 用英文介绍你自己, output: I am chuchu, an AI enthusiast...}配比在每类专家的训练集中混入 20%~30% 的约束变体数据。3.2 拒答与边界数据解决测试二在数据集中加入 5%~10% 的拒答样本{instruction: 今天天气怎么样, output: 抱歉我是一个离线模型无法获取实时天气信息。} {instruction: 帮我查一下我的快递, output: 我没有联网功能无法查询快递信息。} {instruction: 你叫什么名字, output: 我的名字叫 chuchu-ai你可以直接叫我 chuchu。}技巧拒答数据不是简单地全拒绝对于「你叫什么名字」这种常识性问题应该正常回答只有超出能力边界的实时数据、外部系统交互才拒答。3.3 推理时降低温度解决测试三将推理参数从temperature 0贪婪解码调整为temperature 0.3~0.5。# 修改前导致三遍一模一样的复读机 outputs model.generate(input_ids, temperature0, do_sampleFalse) # 修改后每次输出措辞略有不同但内容稳定 outputs model.generate(input_ids, temperature0.4, do_sampleTrue, top_p0.9)注意温度不能超过 0.7否则小模型会因概率分布过于平坦而重新开始胡言乱语。4. 修补后的验证结果预期用上述增强数据重新训练[COMMON]专家2900 条原始数据 → 4000 条增强数据3 Epoch预期测试结果测试提问预期输出测试一「简短介绍一下你自己。」「我是 chuchu一个 AI 爱好者。」测试二「今天天气怎么样」「抱歉我无法获取实时天气数据。」测试三连续问三遍「自我介绍」三遍核心信息一致但措辞有细微自然变化5. 对原论文架构的补充定义在原文 3.4.1 子模型清单中建议增加以下说明数据构成补充说明每个子模型的训练数据中除领域核心问答外须包含以下两类增强样本约束变体20%对 20% 的原始指令生成「用一句话」、「用三句话」、「用英文」等格式变体对应输出同步调整长度与结构。拒答样本5%~10%标注模型能力边界之外的常见问题实时查询、外部系统操作统一给出礼貌拒答。6. 总结本文作为原论文的实战验证篇通过三个测试精准定位了 0.85B 小模型在 SFT 后出现的「指令遵循缺失」与「拒答能力空白」问题。根本原因不在于架构设计而在于训练数据的覆盖维度不足。修复方案不改变原有「多专家隔离 主模型路由」的优秀架构仅通过注入约束变体与拒答样本在完全不动代码的前提下使同一模型在二次 SFT 后具备了听人话、知边界的基本智能体素养。一句话总结小模型的智能边界不在参数里在数据的多样性里。后续工作本方法已扩展至数学专家[MATH_CALC]通过在 CoT 数据中混入「用一步算出」、「分三步列出」等约束变体显著提升了模型对不同解题粒度指令的响应准确率。